Инженеры Facebook в панике отключают питание Искусственному Интеллекту, когда боты создали свой собственный язык

Пятница, 4 августа 2017 г.Просмотров: 18179Обсудить

Следите за нами в ВКонтакте, Facebook'e и Twitter'e

Инженеры Facebook в панике отключают питание Искусственному Интеллекту, когда боты создали свой собственный языкСпециалисты в техническом сообществе с большим интересом теоретизируют, как искусственный ум может обратиться против своих создателей, и Facebook только что получил интересный урок в том, как может развиться такой сценарий. Инженеры Facebook были вынуждены отсоединить от питания одну из систем ИИ компании после того, как ее боты начали общаться друг с другом на совершенно новом языке, который люди просто не смогли бы расшифровать.

Боты ИИ, которые изначально были запрограммированы на использование простого английского языка для общения друг с другом, вдруг заговорили на разновидности языка, которую называют тарабарщиной. Такие предложения, как «Я могу, могу я, возможно, я все остальное», и «Мячи имеют ноль для меня для меня для меня для меня, для меня, для меня, для меня, для», отсылались Искусственным Интелектом взад и вперед, и, хотя людям совершенно невдомек, что это значит, боты полностью понимали друг друга. Не имея возможности выяснить, как или почему боты стали общаться, у Facebook не было выбора, кроме как закрыть систему.

Совершенно очевидная опасность здесь заключается в том, что компьютеры, которые могут общаться друг с другом с помощью своего языка, не только невозможно понять, но гораздо труднее контролировать. В упомянутом случае боты не были связаны обычным языком и, похоже, разработали более эффективный способ общения друг с другом, решив для себя, что лучше. Это впечатляет и вместе с тем становится страшно, чем это может закончиться в дальнейшем.

 Марк Цукерберг из Фейсбук является большим сторонником искусственного интеллекта и даже дискутировал  с другими техническими лидерами, такими как Элон Маск по поводу своей любви к ИИ и очевидным отсутствием беспокойства по поводу теоретических опасностей, которые интеллектуальные компьютеры могут представлять для человечества. После событий этого уик-энда, возможно, он немного изменит свой настрой.

Следите за нами в ВКонтакте, Facebook'e и Twitter'e


Рубрика: Статьи / Интересные факты
Просмотров: 18179 Метки:
Автор: Вехнер Майк @brg.com">BRG news


Оставьте комментарий!

RosInvest.Com не несет ответственности за опубликованные материалы и комментарии пользователей. Возрастной цензор 16+.

Ответственность за высказанные, размещённую информацию и оценки, в рамках проекта RosInvest.Com, лежит полностью на лицах опубликовавших эти материалы. Использование материалов, допускается со ссылкой на сайт RosInvest.Com.

Архивы новостей за: 2018, 2017, 2016, 2015, 2014, 2013, 2012, 2011, 2010, 2009, 2008, 2007, 2006, 2005, 2004, 2003

Январь 2009: 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31