Керівництво соціальної мережі Facebook змушене було відключити свою систему штучного інтелекту, після того як машини почали спілкуватися власною, неіснуючою мовою, яку люди не розуміли. Боти винайшли свою мову?

Система використовує чат-боти, які спочатку створювалися для спілкування з живими людьми, але поступово почали спілкуватися між собою. Спочатку вони спілкувалися англійською мовою, але в якийсь момент почали переписуватися мовою, яку вони самі створили в процесі розвитку програми.

В американських ЗМІ з'явилися уривки з "діалогів", які вели між собою віртуальні співрозмовники [орфографія і пунктуація збережені].


Як пояснює видання Digital Journal, системи штучного інтелекту спираються на принцип "заохочення", тобто продовжують дію за умови, що це принесе їм певну "користь". У певний момент вони не отримали від операторів сигналу заохочення на використання англійської мови, тому і вирішили створити свою власну.

Видання Tech Times зазначає, що у роботів з самого початку не було обмежень у виборі мови, тому поступово вони і створили свою мову, якою вони можуть спілкуватися простіше і швидше, ніж англійською.

Програма була навчена робити «ту мову, якою розмовляють люди», а не розвивати власну, і саме це стало помилкою, яка в результаті призвела до новин з побоюванням за майбутнє людства через штучний інтелект (ШІ), що вийшов з-під контролю.

Помилка ця проявилася, коли ботів залишили «наодинці», щоб ще більше розвинути свої навички спілкування. З часом боти відхилилися від прописаних в сценарії правил і почали спілкуватися на «абракадабрі», створеній без участі людини. При більш зручній та швидкій для ШІ формі спілкування правила англійської мови максимально опускалися, а конструкції багаторазово повторювалися.

Подібний інцидент стався зовсім не тому, що роботи вже починають захоплювати світ, а через допущені помилки в програмуванні. Говорячи конкретніше, ботам просто не дали завдання дотримуватися правил граматики і словотвору англійської мови, тому вони почали змагатися в досягненні максимальної ефективності при спілкуванні.

Виявивши проблему, дослідники FAIR відразу ж відключили систему і допрацювали код так, щоб алгоритм дозволяв спілкуватися тільки зрозумілою людині англійською мовою.

Втім, побоювання багатьох в даному випадку теж можна зрозуміти. Якщо боти дійсно придумають «свою» мову для спілкування, зрозуміти їх буде неможливо. Як підмітили в FAIR, білінгвів, які одночасно зрозуміли б ШІ і людські мови, також немає.