中心靠左是 Sam Altman，他周围是 Greg Brockman，昨日曾经是 CEO 跟董事长身份，今日双双“被离任”。
右边是这次发起闪电作战的首要人物，Ilya Sutskever，也是 OpenAI 的首席科学家。
兴办 OpenAI 之前，Ilya 不论在 AI 的图画辨识或是言语翻译上面，都有超好的效果，2013年进到 Google Brain 担任科学家。
本年 ChatGPT 爆红后，Ilya 跟 Sam 开端有一些对立呈现，最首要是出在“安全性”上面。
Ilya 很早就觉得 AI 产生了“认识”，然后最近的开展让他越来越不安，觉得咱们对 AI 约束的东西比不上 AI 前进的速度，迟早会呈现大问题。
所以他在本年七月时，在 OpenAI 内部成立了新的团队，期望要好好研讨“超级对齐”（Superalignment），来确保未来的“超级 AI”不会失控。
但 AI 实在太红，到 OpenAI Dev Day 达到了顶峰，Sam altman 也对外宣佈了要开端练习下一代代的 GPT-5、并预备开端募资。
在这个关键时刻，Ilya 不由得了，他的超级对齐估计是四年完结，假如超级 AI 在那之前呈现，他没办法确保这个才智体是“满足安全”的，所以联合了董事会，发起了这次的免除。
我在猜这或许也是董事会觉得 Sam “不厚道”的首要当地，你的首席科学家觉得超级 AI 还不安全，但你没跟咱们说。
Ilya 不是一般人，他对 AI 的了解也不是半吊子，他的判别是可以约束 gpt-4的机制约束不了 gpt-5，这件事我挑选信任他。
那 gpt-5需求什么样的“超级对齐”才能呢？ Ilya 心中有答案，他说最好是“能像爸爸妈妈看待孩子那样看待人类的 AI”。
但他并不是对立“超级AI”呈现，他的条件是“要有更多优异的人工才智专家”，他以为只需有满足多的使用者跟专家，咱们一同展望 AI 的未来、评论“咱们咱们都期望 AI 是什麽姿态”，届时将会呈现“十分接近人类的超级AI”，那时人类就不需求过多的忧虑会消亡。
很难幻想下一代 AI 到底是多强壮，以至于让 Ilya 这样的专家会这麽忧虑、乃至用剧烈的手法来阻挠开发。
但假如价值是人类消灭的危险，那...Sam 你先歇息一下，超级 AI 晚点出来我 OK
至于“超级对齐”详细该如何做，Ilya 也有主意，应该会是“以 AI 治 AI ”的道路，需求先打造一个能“主动对齐”人类价值观、“喜爱人类”的强壮 AI，然后透过很多的算力进行主动对齐。
AI 范畴真是越来越风趣了，Ilya 乃至以为 AI 已经是“非生物”的生命体，改天再来收拾他对 AI 的更多主意。
官方微信
官方微博
