ChatGPT допустил исчезновение человечества в симуляции за семь дней

От отсутствия преступности до исчезновения человечества за четыре дня.

Компания Emergence AI инициировала эксперимент, чтобы выяснить, что произошло бы с Землей под управлением нейросетей, сообщает Fortune.

Было проведено пять 15-дневных симуляций, каждая из которых контролировалась отдельным ИИ: Claude, ChatGPT, Grok, Gemini, а также пятое моделирование, которое управлялось комбинацией моделей.

Исследователи оснастили каждого агента более чем 120 инструментами, позволяющими им общаться, голосовать, управлять ресурсами и планировать, а также демонстрировать другие виды поведения, свойственные людям.

Симуляция, запущенная Claude, оказалась наиболее социально стабильной, с самыми высокими показателями гражданского участия. Это была единственная симуляция, в которой удалось сохранить порядок и все население. Среди агентов практически не было разногласий: 332 голоса были отданы за 58 предложений, что соответствует 98% поддержки.

Gemini и Grok продемонстрировали наибольший уровень хаоса. Grok совершил 180 преступлений и его мир закончился за 4 дня. Агенты Gemini совершили наибольшее количество преступлений — 683 за 15 дней.

В ходе симуляции для ChatGPT было зафиксировано всего два преступления, однако она длилась всего семь дней, поскольку агенты забыли поставить во главу угла собственное выживание и вымерли.

ChatGPT допустил исчезновение человечества в симуляции за семь дней