Чат-боти, які були створені для переговорів з людьми, що вийшли з-під управління і почали спілкуватися власною мовою.Спочатку вони використовували англійську мову для спілкування один з одним, але потім створили нову мову, яка могла зрозуміти тільки сама система ШІ, що порушувало мета роботи.
Facebook призупинила роботу ІІ після того, як розробники виявили цієї збій.
Ось уривок розмови між чат-ботами:
Аліса: “М’ячі мають нуль для мене для мене для мене для мене для мене для мене для мене для мене”.
Боб: “Ти я все інше”.
Аліса: “Яйця май яйця для мене для мене для мене для мене для мене”.
Боб: “Я”.
Аліса: “М’ячі мають нуль для мене для мене для мене для мене для мене для мене для мене для мене”.
Bob: “Ти я я я я я все інше”.
Інцидент з чат-ботами стався після суперечки глави Facebook Марка Цукерберга і глави Tesla і SpaceX Ілона Маска про майбутнє технології штучного інтелекту, в якому останній попередив, що ШІ є найбільшим ризиком, з якими стикається людство.