一 数据不完备和滥用风险突出
1 数据不完备：
人工智能进行自动化决策时，如果数据不充分、不达标，就会造成结论偏离的情况。
2 数据投毒：如果训练集中混杂了虚假的数据，还会对算法形成欺骗，在自动化决策中给出错误 的结果。
3 数据滥用：技术进步扩大了用户个人信息的边界，互联网平台企业可以在线且及时的采集用户 购买、收藏、浏览等行为，拥有丰富的算力资源和出众的算法能力，如果企业在借 助人工智能对用户数据进行加工、使用的过程中不能够严格遵守法律法规，则可能因为数据滥用而损害用户的权益。
二 人工智能算法存在固有缺陷
当前，以深度学习为代表的人工智能技术在产业界广泛应用，取得了一系列突破， 但其在可解释性、鲁棒性、偏见歧视等方面尚存在局限。
1 可解释性不足：深度学习算法的一个的显著特点是训练过程中自动提取特征，通常比人工挑选的特 征效果更好，但这一过程目前尚不可控，在不恰当的数据集上算法可能选择错误的特征。
2 鲁棒性不足：深度学习算法在训练过程中会对数据的鲁棒特征和非鲁棒特征逬行学习,并依据这些特征进行识别。
3 偏见与歧视：深度学习算法会挖掘训练数据集中不同因素的相关性，拟合数据分布特性，训练数 据集本身的偏见与歧视，会被引入到训练出的模型之中。
三 企业人工智能管理体系不完善
人工智能等新技术特有的应用特征对企业的管理措施提出了J大挑战。一方面，过 去为了鼓励创新和效率优先，通常让基层拥有较大的自主权；另一方面，人工智能 新技术的负面影响通常不会立即显现，也难以多面评估。这就使得原有的体系并不 能适应当前人工智能治理原则。
1 算法需要人为干预：
由于人工智能算法固有的缺陷，需要对可能出现的错误结果进行干预纠偏。
2 用户权益保障不足：
人工智能算法用于自动化决策，对用户带来明显影响，并不能做到完全技术中立， 需要注意保障用户权益。
3 主体责任落实不到位：
由于人工智能技术门槛G，且在企业中的运用往往呈现出G动态性、G复杂度等特 点，使得外部难以理解其运行机制。
调度决策外卖调度系统困住骑手;个性化推荐电商场景下的信息茧房和马太效应;内容治理如何守护清朗健康的网络环境;人工智能可以放心使用吗
全球人工智能市场收支规模达850厅美元,预测,2022年该市场规模将同比增长约20%至 1017厅美元,并将于2025年突破2000厅美元大关, CAGR 达24.5%
头部科技企业先后发布了AI治理战略和治理体系,成立了相关委员会和工作组,聚焦企业层面的AI治理和风险管理体系,可信AI技术和保障工具也在蓬勃发展
智能文档处理、智能会议、知识管理、智能客服等各类企业智能应用不断发展，全面赋能企业办公、管理、决策、风控、营销、服务等各个环节
AI软件设施在近两年成为产业焦点,AI开源框架生态,预训练大模型体系,AI软件平台生态等内容都得到了长足的发展,像水电一样成为触手可得的普惠资源
到端的MLOps一体化工具和细分场景的专项工具都非常火热,端到端工具追求大而全的功能集,专项工具在局部或某些场景下功能和性能较好
规模化是指整合了丰富的人工智能开发,部署,测试,运维等能力,标准化是指将异构的软硬件环境封装为标准化的界面,可扩展是指可以不断适配新的技术和工具
器人流程自动化,智能流程管理,低代码应用平台,流程挖掘等工具和平台,衔接起了企业级各类复杂业务场景,其综合应用,互使能是超级自动化发挥效能的重要手段
知识和数据双轮驱动的人工智能技术路线展现了强劲的发展潜力,知识的融合应用有效地提升了智能问答,智能推荐,大规模预训练模型等人工智能技术中的效果
AI与传统科学领域的深度融合,极大拓展该领域解决问题的能力;传统科学领域的进步和对AI技术的需求加速了AI本身的发展;AI4S的研究范围也扩展到了更多基础问题领域
生成式AI借助生成对抗学习等技术,能够生成更加真实,更有创意,更有趣味的内容,生成式AI既是生产要素,也是生产工具,在写作和编程等方面也取得进展。
大模型的更新迭代速度不断加快,开始从“可用”的基础大模型转向为“好用”的行业大模型,为支撑应用方更便捷地开发和部署大模型,多家头部企业发布了行业大模型及开发工具
