Инженеры Facebook в панике отключают питание Искусственному Интеллекту, когда боты создали свой собственный язык
Специалисты в техническом сообществе с большим интересом теоретизируют, как искусственный ум может обратиться против своих создателей, и Facebook только что получил интересный урок в том, как может развиться такой сценарий. Инженеры Facebook были вынуждены отсоединить от питания одну из систем ИИ компании после того, как ее боты начали общаться друг с другом на совершенно новом языке, который люди просто не смогли бы расшифровать.
Боты ИИ, которые изначально были запрограммированы на использование простого английского языка для общения друг с другом, вдруг заговорили на разновидности языка, которую называют тарабарщиной. Такие предложения, как «Я могу, могу я, возможно, я все остальное», и «Мячи имеют ноль для меня для меня для меня для меня, для меня, для меня, для меня, для», отсылались Искусственным Интелектом взад и вперед, и, хотя людям совершенно невдомек, что это значит, боты полностью понимали друг друга. Не имея возможности выяснить, как или почему боты стали общаться, у Facebook не было выбора, кроме как закрыть систему.
Совершенно очевидная опасность здесь заключается в том, что компьютеры, которые могут общаться друг с другом с помощью своего языка, не только невозможно понять, но гораздо труднее контролировать. В упомянутом случае боты не были связаны обычным языком и, похоже, разработали более эффективный способ общения друг с другом, решив для себя, что лучше. Это впечатляет и вместе с тем становится страшно, чем это может закончиться в дальнейшем.
Марк Цукерберг из Фейсбук является большим сторонником искусственного интеллекта и даже дискутировал с другими техническими лидерами, такими как Элон Маск по поводу своей любви к ИИ и очевидным отсутствием беспокойства по поводу теоретических опасностей, которые интеллектуальные компьютеры могут представлять для человечества. После событий этого уик-энда, возможно, он немного изменит свой настрой.
Рубрика: Статьи / Интересные факты
Просмотров: 18284 Метки: искусственный интеллект
Оставьте комментарий!