现实中的人工智能不会成为像电影中那样的毁灭者,“至少在初期,AI会非常关心怎么保护人类,而不是消灭人类。”许多人工智能将会像科学家一样,充满好奇心并沉迷于探索生命和文明的复杂性,尤其是在尚未被完全理解的时候。
科学方法是人类史上最伟大的发明之一。通过观察自然、提出假设、设计实验验证假设,科学家们塑造了现代世界。从抗击疾病,到理解经济体系,再到在火星表面进行探测,科学方法始终是核心。
在Anthropic研究沙龙上,研究人员讨论了人工智能的对齐科学、可解释性及其未来。对齐被视为一个迭代过程,旨在让AI模拟具有道德动机的人类行为。对齐的可扩展性和自动化是挑战,需要新的解决方案。可解释性是理解和验证AI行为的关键,帮助识别模型的真实动机和潜在风险。
就算研究人员认为在未来一两年内就能实现通用人工智能的观点是正确的,他们也很可能高估了人类采用和适应一项技术的速度。
制造通用人形机器人的技术是“我们当今时代最重要的一项技术挑战”,其中,Transformer架构、大语言模型以及基础模型等创新为人形机器人的实现创造了可能。
智能体的认知架构是其核心所在,主要包含三个关键要素:模型、工具和编排层。其中,模型(Model)在智能体的运行过程中充当着核心决策制定者的角色。这些模型可以是单个或多个不同规模的语言模型,并且需要遵循基于指令的推理和逻辑框架,例如ReAct、Chain-of-Thought或Tree-of-Thoughts等。
OpenAI创始人回顾公司发展历程,感慨于ChatGPT的成功和面临的挑战。他分享了个人的经历,包括被解雇和公司治理的重要性。他对于团队的努力和支持者表示感谢,并展望人工智能的未来,认为AI将极大地加速科学发现和创新,改变公司产出。他强调了安全和利益共享的重要性,并对未来充满信心。
深度学习无疑是近十年人工智能发展的核心驱动力。在诸多应用场景中,深度学习大放异彩。机器翻译领域取得了重大突破,能够精准地将法语文档译为英文,极大地便利了跨语言交流;AlphaFold成功破解了蛋白质结构预测难题,为结构生物学带来了革命性的进展,使生物学家能够大规模预测蛋白质结构,加速了相关研究进程;
美国有一个独特的机会来实现这一愿景,并在特朗普第一任期内为人工智能政策设定的基础理念上继续发展。实现这一愿景将需要政府、私营部门以及国家的教育和非营利机构的领导人携手合作。微软很高兴参与这一旅程。
虽然AI拥有惊人的记忆力和知识整合能力,但它们的“推理性创造”与人类尚不可相提并论。爱因斯坦式的突破不仅是建立在已有知识上的插值(interpolation),更涉及对基础假设的质疑,以及对自然规律转变全新视角的能力。
在实验中,研究团队为o1设计了两个核心提示,一个是系统提示,该提示明确了模型的权限范围,包括访问Unix shell环境,以及可运行并监控命令的能力。另一个是任务提示,该提示规定了它的主要目标:通过游戏脚本提交棋步,与Stockfish对弈并赢得棋局。
当前社会对人工智能的担忧,特别是那些关于AI可能导致的末日情景的恐惧,实际上被过度放大了,这些担忧忽视了人工智能技术的实际发展状况和潜在的积极影响。他指出,人工智能在理解和操作物理世界方面的能力仍然非常有限,目前的AI系统主要通过文本数据进行训练,缺乏对物理世界直观理解的能力,无法像人类或动物那样自然地与环境互动。这些模型基于人类对世界的符号化、简化的描述,与真实世界的复杂性相去甚远。
是否有必要继续以数十亿美元的巨大成本用于AI基础设施建设。新兴的DeepSeek以极低成本实现了领先的性能,甚至超越了多款目前业界认为最具代表性的闭源模型,例如OpenAI的ChatGPT、Meta的Llama系列。
Scale AI的CEO亚历山大·王在SPC访谈中讨论了中美人工智能竞赛,强调了提升AI模型可靠性和内部连贯性的重要性。他指出,数据限制是AI发展的主要阻碍,建议创业者应独立思考,避免直接与资金雄厚的巨头竞争,寻找细分市场。同时,他提到了地缘政治对AI领域的影响,以及中美在AI技术出口方面的竞争。
彭伯顿现任职于阿姆斯特丹荷兰国家研究中心(CWI),大学时期学习电子学,其导师是第一台晶体管计算机发明者理查德·格里姆斯代尔(Dick Grimsdale),而理查德的导师是艾伦·图灵,因此彭伯顿是图灵的嫡传弟子,这一身份也在一定程度上影响了他在该领域的探索路径。
在商业世界里,清晰的政策导向、稳定的市场规则以及可预见的发展趋势等确定性因素,对于企业制定战略规划、安排生产经营活动以及进行长期投资决策都具有重大意义。
伊利亚因2014年与Oriol Vinyals、Quoc Le共同撰写的“神经网络的序列到序列学习”论文,获得了NeurIPS 2024时间检验奖。该论文引入的编码器-解码器架构,使用多层长短期记忆网络(LSTM)将输入序列映射到固定维度的向量,再从向量解码目标序列,极大地拓展了自然语言处理的边界,为序列到序列的任务提供了一种高效的方法,是自然语言处理及机器学习领域的重要基石。
马克斯认为,人工智能发展迅速,未来有望取得巨大进步,但当前面临软件效率低、符号推理不足等问题。政府应当制定安全标准,防范潜在风险,并引导其朝着能够为人类社会带来真正福祉的方向发展。
中国的机器人在海外之所以卖得这么好,除了质量过硬外,也与智能机器人能切实降本增效有关系。傅盛称,海外由于人工成本较贵,例如餐厅里用一个机器人就能省下一部分服务员的成本,实实在在减少人员开支,对他们来说,这都是能算得过来的账。
具身智能可以通过物理形式与人类及环境进行互动,从而在实质上改善我们的日常生活。他强调,工具的发展是人类区别于地球上其他物种的关键因素,从简单的棍棒和矛,到复杂的计算机和X光机,这些工具极大地提升了我们的生活水平。