Facebook был вынужден закрыть одну из своих систем искусственного интеллекта после того, как работники обнаружили, что боты начали общаться на языке, который они не смогли понять.
Интернет-ресурс The Tech Time сообщает, что один из роботов, которого называют Боб сказал другому «I can can i i everything else» («Я могу могу я я все еще»). Ему ответил бот по имени Элис: «Balls have zero to me to me to me to me to me to me to me to me to» («Шары имеют ноль для меня для меня для меня для меня для меня для меня для меня для меня для»).
Ученье - свет
Предложения сначала могут показаться абсолютно бессмысленными, но исследователи говорят, что они на самом деле являются сокращениями, которые боты или «агенты диалога» научились использовать благодаря алгоритмам машинного обучения. Алгоритмы были созданы Лабораторией исследований искусственного интеллекта Facebook (сокращенно FAIR) в качестве способа улучшения бесед, которые чат-боты могут вести с людьми.
Попытка увеличить способности ботов в процессе общения привела к тому, что разработчики показали системе искусственного интеллекта, как создать свой язык. Со временем боты начали общаться друг с другом без участия людей. Поскольку в установках ботов не было прописано использования исключительно английского языка, Боб и Элис, судя по всему, отклонились от заданного сценария, чтобы лучше заключать сделки. Но это не все, чему они научились.
Корень зла
Но что плохого в том, что боты изобрели свой язык? Прежде всего, когда системы искусственного интеллекта используют собственный язык, люди не могут следить за тем, о чем именно говорят боты. Ученые не в силах разобраться, как думают роботы, из-за того, что все их мысленные процессы скрыты, и если они будут говорить на непонятном языке, ситуация и вовсе станет безнадежной, так как боты, говорящие на своем языке не нуждаются во вмешательстве человека в данный процесс.
Ученые и эксперты в области технологий, такие как Элон Маск, Билл Гейтс и Стивен Хокинг, предупреждали, что системы искусственного интеллекта, такие как Боб и Элис, в один прекрасный день смогут стать достаточно умными, чтобы уничтожить человечество, как Skynet в фильмах о Терминаторе.