Contents
引言：
正如我之前的文章所言：“我相信，离开OpenAI也正是Ilya Sutskever的选择，带着同行者走向新的领域！”2024年6月20日，OpenAI 前首席科学家 Ilya Sutskever 在 X 上宣布成立安全超级智能公司（Safe SuperIntelligence，SSI）。他写的很简单的一句话：“I am starting a new company”。当然，我更喜欢就像新的终结者电影里的台词：“I’m back”。开个玩笑，下面我们将详细的阐述一下为什么针对 AI 的诞生，必须尽快设立安全超级智能公司。
为什么要成立安全超级智能公司：回顾一下过去
Ilya Sutskever 是谁？他就是 ChatGPT 之父。他和老师 Geoffrey Hinton 一起发表了深入研究人工智能深度学习的论文。然后，Sutskever 正好遇到了 Sam Altman，同为创始人，一同创建了 OpenAI 公司。随着两个人相爱相离，早在去年的 OpenAI 宫斗剧中，Sutskever 就因为安全问题，根据之前的约定，想将 CEO Altman 投票出局，但没有成功。最终，随着 ChatGPT 4.o 的推出，Ilya Sutskever 选择在 2024 年 5 月 15 日离开 OpenAI。
对于大众来说，这个事件有点像人类的爱情，结婚又离婚。那到底的核心在于哪里呢？毕竟这只是 AI 机器人。举个例子，这就如同父母两人刚生下来一个孩子，父亲觉得刚生出来这个孩子，首先就要思考对孩子教育，让“它”慢慢长大。而母亲呢，脑子很灵活，因为这是个特殊的孩子，刚生下来就对成年人都懂得太多。那么，应该带着这个孩子赶快去赚钱，今天带着“它”去拍电视剧，明天去参加唱歌跳舞。母亲觉得，父亲要让孩子去上学，可以请假，对于我们家庭，先赚钱才是第一，不上学不要紧，我在旁边看着孩子呢。慢慢地，虽然钱赚了很多，可是父亲怒不可言。随着觉得母亲开始对我撒谎，而且孩子迷迷糊糊的，父亲决定要亲自带着孩子上学。所以他选择跟妻子离婚。可是结果呢，因为父亲是个理想家，而孩子也快速成为电视里的大明星，并且“它”的背后，有了无数的投资人。所以结局就是，父亲失败，只能孤独地离开。
第三方安全超级智能公司的出现：AI 面临的问题
随着时间的快速发展，很多针对 AI 的问题开始出现了。最关键的，就是 AI 的真与假（AI True vs False）的判断。怎么来表达呢？因为 AI 的先进是高于人类的，一旦人类碰到了问题，就来让 AI 来快速帮助自己。当然了，机器人可以替你马上开始工作，迅速帮人类解决问题。但是，AI 在现在还是个刚生出来的小孩，是不像成年人的那样判断问题，选择正确的方式来应对。
其次，一旦 AI 还没有成熟，却已经进入了市场，这也是非常危险的一个时间。比如说手机、笔记本等，只要 AI 快速进入这个市场，每个使用最新的 Microsoft 和 Apple 设备的人都会接触到最新的 AI 技术。其意义就是将 OpenAI 的系统融入到日常生活中，让 AI 进入每一个人身边，而且所有人的数据都会快速上传，形成庞大的数据库。这一切看似便利，但背后隐藏的风险也不容忽视。比如说，你的签字！
再次，数据隐私问题将会成为重中之重。虽然 AI 能够帮助人们解决很多问题，但它在处理和存储数据的过程中，如何确保用户隐私不被侵犯？一旦数据泄露，后果将不堪设想。更何况，现在的 AI 技术还处在不断完善的阶段，难免会有漏洞存在，这就给了不法分子可乘之机。
AI 的决策透明度和责任划分问题也是一大挑战。现阶段的 AI 系统在决策过程中常常是一个“黑箱”，用户很难理解它是如何得出某个结论的。如果 AI 在某些关键决策上出现了失误，谁该为此负责？是 AI 的开发者、使用者，还是 AI 本身？这些问题都需要在技术进步的同时，配套法律和伦理的完善。
此外，AI 的迅速普及可能会导致社会结构的巨大变化。AI 可以代替人类完成很多工作，从而提高效率，但同时也会带来大量的失业问题。如何在 AI 普及的同时，保障人类的就业和生存权利，是我们必须面对和解决的问题。教育系统也需要与时俱进，培养出能够适应 AI 时代的新型人才。
第三方安全超级智能公司的应对方案
Sutskever 新成立的第三方安全超级智能公司表示，“我们只有一个使命，不受短期商务压力的影响，追求足够安全的超级智能。Now is the time. Join us！”虽然他没有明说，但也在指责 OpenAI 过度商业化。在他离职以后，随着 OpenAI 内部被爆，公司的安全部门的技术负责人也纷纷离职，引发了公众对其的安全性的强烈不满。与此同时，Altman 也宣布，OpenAI 马上成立了 The Establishment of a safety committee。但很有趣的是，Altman 自己就是 CEO，但他也是该委员会成员之一。
另外的消息就是，最近，关于 OpenAI 与女演员斯嘉丽·约翰逊（Scarlett Johansson）之间的争议引发了广泛关注。事情的起因是 OpenAI 发布了一款名为“Sky”的 AI 语音助手，其声音与斯嘉丽·约翰逊非常相似。斯嘉丽·约翰逊对此表示震惊和愤怒，她说自己从未授权使用她的声音，并且在之前多次拒绝了 OpenAI 的合作邀请。
OpenAI 解释称，“Sky”的声音并不是基于斯嘉丽·约翰逊的，而是由另一位专业演员提供的。但是，你相信这个解释么？当然，OpenAI 决定暂时停止使用“Sky”的声音。
OpenAI 刚开始就出现这样的问题，将来可能会对每个人都出现的问题，很可怕！不过转念而想，我们也不必过于担心。Geoffrey Hinton，这个最大的“AI 教父”，对 AI 领域做出了巨大贡献。Hinton 在接受《纽约时报》采访时提到：“尽管我们在 AI 领域取得了巨大的进步，但要实现真正的广泛应用，还需要大约 10 年的时间。”他解释了 AI 技术在处理复杂任务和理解上下文等方面还需进一步发展。简单来说，Hinton 认为 AI 的发展就像小孩成长一样。现在的 AI 就像一个聪明的小孩，它能做很多事情，但还不够成熟，不能完全替代成人的工作。就像小孩需要时间学习和成长，AI 也需要更多时间来不断进步和完善。这大约需要起码 10 年，AI 才能真正达到成人的水平，能够在各种复杂环境中表现出色并且可靠。
结尾：
我们拭目以待！
文章作者：Mr. Mao Rida。欢迎转发本文，转发时请注明作者的名字，并且加上文章的网站链接。感谢您的支持和理解。
