技术发展方面,随着谓词推理、专家系统、知识树和向量机学习等传 统技术的发展日趋放缓,促使以联结主义和概率统计等理论为基础的深度 学习加速发展,迈入了以人工神经网络为基础、以大模型为典型应用的新 发展阶段。
在模型方面,大规模人工智能模型逐步成为业界主流。以生成式人 工智能为例,具备数百亿参数的模型已非罕见,并随着模型规模增长产生 了接近人类的“G级”能力,使人们相信通用人工智能或将到来。 Stable Diffusion 、Midjourney等视觉生成模型具有类似人类的视觉创作能力, ChatGPT等文本生成模型具有G度近似人类的语言推理和规划等能力。有 研究认为,这些能力是随着模型参数达到数百亿级别后逐渐产生的,虽其技术原理尚未明晰,但进一步推动了模型越来越大的技术趋势。
在训练方面,有人类参与的指令微调技术是近年来人工智能的另一 大技术特点。指令微调主要有三种实现形式,以预训练语言模型为例:一 是引入人工撰写的大量对话数据对模型进行微调训练;二是人工对微调后 模型面向同一提示词生成的多个备选答案进行价值排序,训练价值评分模 型;三是在价值评分模型的奖励信号下,微调模型进行强化学习训练,不 断改进模型的表现。通过该部分技术,可将在海量语料库上训练的模型与 复杂的人类价值观实现对齐,期望人工智能可以生成正确、有用、无害的 内容。
人工智能与实体经济融合发展,推动了相关产品服务的新一轮变革;人工智能作为助手融入新L域,J大丰富了人们的数字生活
网络安全基本属性;透明性,实现人工智能开发过程的可审计以及可追溯;可解释性,可被人理解其运行逻辑的特性;公平性,保证处理结果的公正 中立
用户数据用于训练,放大隐私信息泄露风险;算法模型日趋复杂,可解释性目标难实现;可靠性问题仍然制约人工智能关键L域应用
针对利用人工智能算法从事传播违法和不良信息,侵害用户权益,操纵社会舆论等问题,加强安全管理,推进算法推荐技术和深度合成技术依法合理有效利用
日本政府发布了《人工智能战略2022 》旨在推动人工 智能克服自身社会问题、提G产业竞争力,提出以人为本、多样性、 可持续三项原则
新加坡资讯通信媒体发展局和个人数据保护委员会共同发布人工智能安全治理评估框架和工具包A .I .VERIFY,结合人工智能系统的技术评估和程序检查
俄联邦政府批准《至2024年人工智能和机器人技术监管构 想》为人工 智能和机器人技术的安全应用和法律监管提供指导
欧盟专门立法,试图对人工智能进行整体监管,针对可能对个人基本 权利和安全产生重大影响的人工智能系统建立多面的风险预防体系
美国监管要求少,主要强调安全原则,指导政府部门 与私营企业合作探索人工智能监管规则,并为人工智能实践者提供自愿适 用的风险管理工具
拟议法案《人工智能与数据法》敦促各公司在开发和部署人工智 能系统时以减轻伤害和偏见风险为前提,进而维护加拿大民众的权益
英 国将如何巩固网络强国地位,保障网络安全,提升网络空间行动能力,明确了英国将积J引L人工智能等七项优先技术L域的安全发展
20211000-T-469; 20230249-T-469; 20221791-T-469 ;T/CESA 1193-2022