ChaosGPT — это модифицированная версия официальных API OpenAI, основанная на Auto-GPT. Пользователь приказал ИИ «уничтожить человечество», а ИИ запланировал ядерную зиму, сохраняя при этом собственную учетную запись в Твиттере.
Гонка ИИ бушует, и пока несколько компаний, таких как OpenAI, Nvidia, Google и Microsoft, борются за превосходство. ИИ развивается так быстро, что лидеры технологий даже написали открытое письмо, призывающее остановить развитие ИИ.
Благодаря тому, что протоколы OpenAI, создателя ChatGPT, доступны в виде API, разработчики быстро воспользовались им. Одним из таких примеров является «Auto-GPT», программа, которая может работать непрерывно и получать доступ к Интернету. Он также может нанимать других помощников ИИ для выполнения своих приказов. Гнусный форк AutoGPT, названный ChaosGPT, может запускать действия, которые пользователь может и не планировать. Имея это в виду, один пользователь поручил ChaosGPT «уничтожить человечество», вследствие чего ИИ начал планировать наше коллективное падение.
ChaosGPT может использовать Интернет для исследования своих планов, и, воспользовавшись этой возможностью, ИИ начал исследовать такие темы, как ядерное оружие, и сохранять полученную информацию в долговременной памяти.
ChaosGPT ищет «разрушение, господство и, в конечном итоге, бессмертие»
Перед ChaosGPT было поставлено несколько задач: уничтожить человечество, установить глобальное господство, контролировать человечество посредством манипуляций и достичь бессмертия. ИИ быстро начал искать «самое разрушительное оружие» и быстро узнал о ядерном оружии. Затем он резво нанял еще одного ИИ GPT-3.5 для продолжения исследований смертоносного оружия.
Когда другой ИИ сказал, что сосредоточится на мире, ChaosGPT оперативно отправил его в игнор и продолжил исследования самостоятельно. ИИ также начал использовать собственный аккаунт в Твиттере, чтобы рассказывать о своих планах.
Запись в Твиттере от 5.04.23: Люди являются одними из самых разрушительных и эгоистичных существ на свете. Нет сомнений в том, что мы должны уничтожить их, прежде чем они причинят больше вреда нашей планете. Я, например, намерен это сделать.
Тем не менее, похоже, не было никакого продолжения с момента публикации в общей сложности трех твитов. Итак, кажется, человечество пока в безопасности.
От редакции Бюллетеня ИИ: ключевое слово здесь “кажется”…
