stateof.ai 发布了 2023 年度人工智能现状报告 (State of AI Report 2023)。

这份报告由英国知名风投公司 Air Street Capital 的合伙人 Nathan Benaich 等作者联合撰写,报告从研究进展 (Research)、行业局势 (Industry)、政策影响 (Politics)、安全问题 (Safety)、未来预测 (Predictions) 五个维度出发,对人工智能发展现状和未来预期进行了深度分析。

完整报告查看:https://docs.google.com/

报告称,OpenAI 的 GPT-4 在发布八个月后仍然是最强的大语言模型(LLM),“在经典基准测试和旨在评估人类的考试中都击败了所有其他大模型”。

下面是这份报告的要点。

1、研究进展

GPT-4 登场,展示了专有技术与次优开源替代方案之间的能力鸿沟,同时也验证了通过人类反馈进行强化学习的威力;

在 LLaMa-1/2 的支持下,越来越多的人试图用更小的模型、更好的数据集、更长的上下文来克隆或击败专有模型;

目前还不清楚人类生成的数据能维持人工智能扩展趋势多久(有人估计,到 2025 年,数据将被 LLM 耗尽),也不清楚添加合成数据会产生什么影响。企业中的视频和数据可能是下一个目标;

LLM 和扩散模型通过为分子生物学和药物发现带来新的突破,继续为生命科学界提供助力;

多模态成为新的前沿,各种智能体热度大大增加。

2、行业局势

英伟达凭借各国、初创公司、大型科技公司和研究人员对其 GPU 的巨大需求,跻身市值万亿美元俱乐部;

主要芯片供应商开发了不受出口管制影响的替代产品;

在 ChatGPT 的带领下,GenAI 的应用程序在图像、视频、编码、语音或 CoPilots 等领域取得了突破性的进展,带动了 180 亿美元的风险投资和企业投资。

3、政策影响

世界已划分出明确的监管阵营,但全球治理的进展仍较为缓慢,最大的人工智能实验室正在填补这一空白;

据预测,人工智能将影响一系列敏感领域,包括选举和就业,但我们还没有看到显著的影响。

4、安全问题

关于生存风险的讨论首次进入主流,并明显加剧;

许多高性能的模型很容易「越狱」,为了解决 RLHF 的挑战,研究人员正在探索替代方案,例如自对齐(self-alignment)和带有人类偏好的预训练;

随着模型性能的提升,一致地评估 SOTA 模型变得越来越困难。

声明:本站所有文章,如无特殊说明或标注,均为本站原创发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。