可信人工智能行业治理调研报告

当前人工智能已经在多个行业中得到应用和部署，例如营销服务、教育、技术服务/咨询业和金融/银行业等，且集中于客户服务和经营管理场景。但大多数企业仍处于技术规划阶段，成熟度较低。在技术使用模式上，多数企业自研能力不足，主要依赖外部产品。在人工智能投入方面，企业呈现两极分化，大多数投入不足100万元人民币，少数超过2000万元人民币。多数企业认为业务改进效果“一般”，显示出投入与产出效果的优化空间。在人工智能应用过程中，企业面临的主要挑战包括技术和业务流程融合问题(算法复杂.业务场景的适用性)、数据安全(如隐私保护、数据可靠性)和算法合规性问题。虽然伦理性问题目前关注度较低，但其重要性将日益凸显，企业需重视公平性、透明性、可解释性和安全性，以确保技术的可持续发展。可信人工智能治理是破解风险、实现长期价值的关键路径。