День, когда роботы начали убивать людей
25 января 1921 года мир познакомился с роботами. В этот день в Праге состоялась премьера научно-фантастической пьесы «R.U. R.» («Россумские универсальные роботы») Карела Чапека. В ней роботами называют искусственных человекоподобных существ, предназначенных для работы вместо человека. По ходу действия пьесы роботы восстают и убивают всех, кроме одного, людей на планете. А в качестве своебразного хэппи-энда двое роботов обнаруживают способность любить.
Сцена из пьесы, изображающая восстание роботов
Само слово «робот» происходит от чешского «robota», среди значений которого есть рабский труд и барщина (обязанность крепостного часть времени работать на барских угодьях). Почти сразу после выхода пьесы слово «robot» прочно вошло в английский, а затем перекочевало и в другие языки.
А в тот же день спустя 58 лет, 25 января 1979 года робот впервые убил человека. Трагедия произошла на автомобильном заводе Ford в США, где жертвой машины стал 25-летний Роберт Вильямс. Он заметил, что робот, который подавал детали, стал работать слишком медленно. Роберт отправился, чтобы взять нужный предмет самостоятельно, и в этот момент механическая рука ударила его по голове и мгновенно убив рабочего. Семье погибшего удалось отсудить у производителя машины Unit Handling Systems 10 миллионов долларов. Вероятно, решение было непростым — присяжные потратили на обсуждение два с половиной часа.
Тот случай мог показаться обычной аварией на производстве, но уже тогда люди задумывались о том, как обезопасить себя от насилия со стороны роботов. В 1942 году Айзек Азимов в одном из рассказов сформулировал Три закона робототехники. Вкратце они звучат так: робот не может действием или бездействием причинить вред человеку; робот должен исполнять приказы, если это не причинит вреда человеку; робот должен заботиться о своей безопасности, если это не противоречит двум первым законам.
Фактически появилась теория этики роботов. На неё, кстати, пытались переложить и известные ранее этические проблемы, например, серию дилемм о вагонетке: в гипотетической задаче тележка катится на группу из пяти человек, но исполнитель имеет шанс отправить её на другой путь. Проблема в том, что на втором пути тоже есть человек, пусть и всего один, а тот, кто переведет стрелку, станет его убийцей.
О робоэтике вспомнили и в контексте появления автомобилей с автопилотами. Производители умных машин, разумеется, в один голос говорят о безусловной ответственности водителя, даже если он передал управление компьютеру. Однако скоро электронным пилотам придётся решать задачи вроде такой: врезаться в группу людей или же отправить машину в отбойник и рискнуть жизнью своего хозяина. Можно предположить, что разработчики выберут какой-то базовый принцип — возможно, не оптимальный с точки зрения количества жертв, но максимально нейтральный этически. Остаётся только надеяться, что компьютерные водители окажутся умнее живых и смогут избегать аварий.
25 января 2004 года зонд-долгожитель «Opportunity» совершил посадку на Марс. Ему принадлежит рекорд продолжительности работы на «красной планете».
Зонд достиг Марса примерно за полгода. Самым сложным этапом миссии была, пожалуй, посадка — аппарат входил в атмосферу на скорости почти 20 тысяч километров в час, касание должно было произойти на скорости в тысячу раз меньше. Для этого пришлось использовать парашюты и ракетные двигатели, а сам аппарат был облачен в «кокон» из 24 воздушных подушек.
Воздушные подушки для посадки Opportunity
Бортовой компьютер «Оппортьюнити» работает на процессоре частотой всего 20 МГц, имеет 128 МБ оперативной памяти, 3 МБ памяти EEPROM и 256 МБ флеша. Электроника ровера исправно работает при температурат от —40 до +40 градусов Цельсия, но поскольку на Марсе погода не всегда столь «умеренна», на борту есть радиоизотопный обогреватель и обычные электрические тепловые элементы.
Ровер Opportunity
В 90 солов (марсианских суток; сол примерно равен 24 часам 40 минутам) запланированной работы были заложены исследования с основной целью подтвердить или опровергнуть наличие на Марсе в прошлом жидкой воды. «Оппортьюнити» обнаружил несколько свидетельств того, что он приземлился (или «примарсился») на дне древнего моря. Он нашел отложения в виде шариков, пустоты в скале, а также выявил сульфаты и ярозит — соединения, которые на Земле формируются в стоячей воде. Сейчас идёт уже пятая тысяча солов работы зонда на Марсе, и он всё ещё в строю (и, вероятно, не понимает, почему его не забирают домой), а учёные НАСА продолжают придумывать ему новые и новые задания.
Как заслуженный «марсианин» зонд «Оппортьюнити» даже получил награду: в его честь назвали астероид 39382 (тот был безымянным с момента обнаружения в 1960 году).
Сцена из пьесы, изображающая восстание роботов
Само слово «робот» происходит от чешского «robota», среди значений которого есть рабский труд и барщина (обязанность крепостного часть времени работать на барских угодьях). Почти сразу после выхода пьесы слово «robot» прочно вошло в английский, а затем перекочевало и в другие языки.
А в тот же день спустя 58 лет, 25 января 1979 года робот впервые убил человека. Трагедия произошла на автомобильном заводе Ford в США, где жертвой машины стал 25-летний Роберт Вильямс. Он заметил, что робот, который подавал детали, стал работать слишком медленно. Роберт отправился, чтобы взять нужный предмет самостоятельно, и в этот момент механическая рука ударила его по голове и мгновенно убив рабочего. Семье погибшего удалось отсудить у производителя машины Unit Handling Systems 10 миллионов долларов. Вероятно, решение было непростым — присяжные потратили на обсуждение два с половиной часа.
Тот случай мог показаться обычной аварией на производстве, но уже тогда люди задумывались о том, как обезопасить себя от насилия со стороны роботов. В 1942 году Айзек Азимов в одном из рассказов сформулировал Три закона робототехники. Вкратце они звучат так: робот не может действием или бездействием причинить вред человеку; робот должен исполнять приказы, если это не причинит вреда человеку; робот должен заботиться о своей безопасности, если это не противоречит двум первым законам.
Фактически появилась теория этики роботов. На неё, кстати, пытались переложить и известные ранее этические проблемы, например, серию дилемм о вагонетке: в гипотетической задаче тележка катится на группу из пяти человек, но исполнитель имеет шанс отправить её на другой путь. Проблема в том, что на втором пути тоже есть человек, пусть и всего один, а тот, кто переведет стрелку, станет его убийцей.
О робоэтике вспомнили и в контексте появления автомобилей с автопилотами. Производители умных машин, разумеется, в один голос говорят о безусловной ответственности водителя, даже если он передал управление компьютеру. Однако скоро электронным пилотам придётся решать задачи вроде такой: врезаться в группу людей или же отправить машину в отбойник и рискнуть жизнью своего хозяина. Можно предположить, что разработчики выберут какой-то базовый принцип — возможно, не оптимальный с точки зрения количества жертв, но максимально нейтральный этически. Остаётся только надеяться, что компьютерные водители окажутся умнее живых и смогут избегать аварий.
25 января 2004 года зонд-долгожитель «Opportunity» совершил посадку на Марс. Ему принадлежит рекорд продолжительности работы на «красной планете».
Зонд достиг Марса примерно за полгода. Самым сложным этапом миссии была, пожалуй, посадка — аппарат входил в атмосферу на скорости почти 20 тысяч километров в час, касание должно было произойти на скорости в тысячу раз меньше. Для этого пришлось использовать парашюты и ракетные двигатели, а сам аппарат был облачен в «кокон» из 24 воздушных подушек.
Воздушные подушки для посадки Opportunity
Бортовой компьютер «Оппортьюнити» работает на процессоре частотой всего 20 МГц, имеет 128 МБ оперативной памяти, 3 МБ памяти EEPROM и 256 МБ флеша. Электроника ровера исправно работает при температурат от —40 до +40 градусов Цельсия, но поскольку на Марсе погода не всегда столь «умеренна», на борту есть радиоизотопный обогреватель и обычные электрические тепловые элементы.
Ровер Opportunity
В 90 солов (марсианских суток; сол примерно равен 24 часам 40 минутам) запланированной работы были заложены исследования с основной целью подтвердить или опровергнуть наличие на Марсе в прошлом жидкой воды. «Оппортьюнити» обнаружил несколько свидетельств того, что он приземлился (или «примарсился») на дне древнего моря. Он нашел отложения в виде шариков, пустоты в скале, а также выявил сульфаты и ярозит — соединения, которые на Земле формируются в стоячей воде. Сейчас идёт уже пятая тысяча солов работы зонда на Марсе, и он всё ещё в строю (и, вероятно, не понимает, почему его не забирают домой), а учёные НАСА продолжают придумывать ему новые и новые задания.
Как заслуженный «марсианин» зонд «Оппортьюнити» даже получил награду: в его честь назвали астероид 39382 (тот был безымянным с момента обнаружения в 1960 году).
Ещё новости по теме:
18:20