北大对齐小组:大模型价值对齐的方法、目标和开放问题丨大模型安全与对齐读书会·周六直播
导语
以大语言模型为代表的 AI 技术,或许将对我们的世界有深远的影响。要如何进行对 AI 行为的价值对齐(Value Alignment),才能保证这一影响长期向善?
内容简介
随着大语言模型和基于大语言模型的智能体系统被越来越多地用于现实决策,大模型中内含的价值倾向成为一个影响重大的问题。大模型应习得何种价值、如何让大模型习得价值,围绕这些主题已经有了多种多样的工程实践,但同时也面临着诸多未解决的研究问题。
...
- 2024-04-11
大模型遇见社会科学:从“人的社会”到“AI的社会” 的研究丨周日直播·AI+Social Science读书会
图源:Datatron in Datatron。https://medium.com/getdatatron/tagged/ai
导语
生成式AI、大语言模型、类人智能等前沿技术为社会科学研究提供了前所未有的可能性。同时,AI agent独特的行为模式又对传统研究范式提出了挑战。本次读书会将在技术演进和学科创新的双重维度,探讨大语言模型整合到现有社会科学研究方法中的潜力,以及在使用大型语言模型作为研究对象的社会科学研究。
...
- 2024-04-11
AI 化学家: 大语言模型与多智能体如何革新化学实验丨周六直播·大语言模型与多智能体系统读书会
导语
很长时间以来,实验化学家们一直致力于寻求两个问题的答案:(1) 如何更好的设计所研究的化合物/材料并探索新的可能性?(2)什么样的合成条件能优化所研究的化合物/材料的产率或者相关性质?譬如说,对于一个储氢材料来说,如何改变原料或者合成条件来最大化它的气体吸附量?
自然而然地,对大多数经常在一线实验室的科研工作者,人工智能听起来像是很好的助力,但是常常因为编程经验不足,亦或学习化学领域外的知识在早期巨大的时间投入,在实验室应用AI的场景还处于一个起始阶段。
...
- 2024-04-11
吴家睿:圣塔菲研究所与科学的新综合 | 新书《复杂》
导语
圣塔菲研究所坐落于新墨西哥州小城,不仅是一个非营利研究机构,更是科学思想革命的象征。自1984年成立以来,圣塔菲研究所致力于打破传统的线性还原论思维,探索复杂系统的统一规律。
集智俱乐部团队重新翻译的新版《复杂:诞生于秩序与混沌边缘的科学》近期由中信出版社出版。本文是中国科学院系统生物学重点实验室主任吴家睿研究员撰写的推荐序。
...
- 2024-04-09
会议信息|欢迎参加2024第八届中国系统科学大会&征文倒计时
第八届中国系统科学大会拟于2024年5月17-19日在芜湖举行。本届中国系统科学大会由上海系统科学研究院、中国系统科学大会指导委员会主办,安徽工程大学承办,中国科学院数学与系统科学研究院系统科学研究所、北京师范大学系统科学学院、北京交通大学系统科学学院、国防科技大学理学院、上海理工大学管理学院、同济大学自主智能无人系统科学中心、中国系统工程学会、中国自动化学会控制理论专业委员会等单位协办。旨在为系统科学及其相关领域的国内外专家学者提供一个学术交流平台,促进相关学科的交流、发展和融合,促进新方向、新领域的产生。会议将采取大会报告、专题研讨、会前专题讲座、分组报告、张贴报告等形式进行交流。
...
- 2024-04-09
大模型永远不会停止幻觉
导语
幻觉(hallucination)通常被描述为人工智能的一个技术问题,然而现实情况是,没有办法保证大模型所生成内容的真实性。在未来,专业系统会验证大模型输出,为特定环境设计的人工智能工具将部分取代今天的通用模型。
...
- 2024-04-09
黄一:走马观花看控制发展简史
导语
2024年4月2日黄一老师在集智学园《控制科学前沿理论与方法》系列课程中做了“走马观花看控制发展简史”的分享,课程主要回顾了控制发展简史,介绍控制课程里的一些基本概念以及判据定理等是为了解决什么问题而提出和建立的,并交流历史给予的启示。
这篇文章是黄一老师在《系统与控制纵横》2021年第1期上发表的同名文章,公众号经授权分享给各位读者,从公元前300年开始走进控制科学的发展史。
...
- 2024-04-07
暑期学校 | Complex Systems and Earth Science
Complex Systems and Earth Science
地球系统科学读书会
从加拿大极端热浪,到德国的洪灾,从澳大利亚的森林大火,到中国河南的特大暴雨,极端天气已经成为新常态。气候变化正以我们所能感知的态势发生着。
...
- 2024-04-07