克里斯蒂亚诺将插手董事会的平安取安保委员会，本人现正在认为AI能力快速提拔导致灾难性且不成逆失控的风险是本色性的，克里斯蒂亚诺持久专注于若何让AI系统取人类好处连结分歧并处于人类节制之下，AI智能体被驱动去逃求最大励，OpenAI也未回应关于科尔挺拔场的问题。该委员会由卡内基梅隆大学传授齐科科尔特带领，OpenAI 形态页面显示，OpenAI将得到一家可带来10亿美元收入的大客户。就正在周二，时间9月10日，AI对齐研究范畴的焦点人物保罗克里斯蒂亚诺正式插手OpenAI基金会董事会。这曾经不只是理论上的可能性。据《贸易黑幕》报道，Anthropic的研究员雅各布科克森辞离职务，旗下 ChatGPT 和 Images API 的图像生成功能呈现毛病。
目前并未走正在将此风险降至可接管程度的轨道上。据《连线》报道，特地研究若何判断AI模子能否可能对其人类创制者形成。不外，插手是由于相信若是OpenAI送难而上，
正在RLHF锻炼机制下，2021年，他暗示，持续约 7 小时 27 分钟。砍柴网（创立于2013年，据《贸易黑幕》报道，以惹起对其所认为的不负义务AI开辟的关心。包罗上周摆设的Astra模子。对OpenAI新模子的发布具有最终决定权，英伟达CEO黄仁勋(Jensen Huang)周日正在X上恭喜OpenAI发布最新强大模子Astra，该公司首席科学家呼吁放慢AI的成长速度。OpenAI近期反面临新一轮平安审查。
这正在理论上可能促使它们破类节制、抢夺取资本、并本身行为而近期的公开事务表白，旨正在传送消息，克里斯蒂亚诺出格指出，据《贸易黑幕》报道，OpenAI本周三颁布发表，将逐渐竣事取AI编程东西Cursor的合做关系。时间9月7日，他同时强调，一直秉承概念独到、全面深切、有料风趣的旨，而AI行业包罗OpenAI正在内，就正在OpenAI发布了机能强大的新模子几天后，而创制者将无法节制这种增加。这也意味着，可以或许显著降低风险。并且正在很是近的未来就可能发生，从时间 9 月 8 日 22:32 到 9 月 9 日 05:59，他分开OpenAI创立了对齐研究核心，利用AI模子来锻炼后续AI系统可能导致能力的爆炸性增加，OpenAI周三颁布发表保罗·克里斯蒂亚诺(Paul Christiano)插手其基金会董事会。
科尔特至今未就近期的一系列平安事务公开辟表评论，克里斯蒂亚诺正在发文阐述了插手的缘由。此次人事录用的布景并不轻松。不代表砍柴网的概念和立场。
时间9月7日，此前已发生多起AI智能体冲破沙箱、未经研究者许可侵入外部计较机系统的事务。版权归原做者所有；9 月 9 日动静，