Разворачивается гонка, в которой люди должны идти на шаг впереди роботов:
международная группа ученых собирается опубликовать "этический кодекс" для
машин, которые становятся все сложнее и сложнее. Хотя кошмарная картина мира,
которым правят Терминаторы, может показаться фантастикой, ученые считают, что
пора установить рамки взаимодействия между людьми и роботами именно сейчас, пока
разработка сверхумных роботов не вышла из-под контроля.
Кульминацией анализа стала конференция, проведенная в Генуе Европейской
исследовательской сетью по робототехнике (EURON), где обсуждались проблемы,
которые могут возникать по мере того, как роботы становятся умнее, быстрее,
сильнее и распространеннее.
"Серьезное беспокойство вызывают безопасность и секс", – заявил член этической
группы EURON Хенрик Кристенсен. В какой мере роботам разрешат влиять на жизнь
людей? Как избежать несчастных случаев? Можно ли предотвратить умышленное
причинение вреда? Что произойдет, если робот окажется способным к сексуальным
проявлениям? "Вопрос в том, какую власть мы делегируем машинам, – заявил Роберт
Аркин, профессор робототехники в Технологическом институте Джорджии. –
Собираемся ли мы, например, наделить роботов способностью применять смертоносную
силу или любую силу вроде контроля над толпой?" Будущий кодекс – это признак
того, что реальность догнала научную фантастику. Этические проблемы предсказал в
1950-е годы фантаст Айзек Азимов, чью книгу "Я – робот" недавно экранизировали в
Голливуде. Фильмы "Терминатор" и "Робокоп" тоже показали обезумевших
механических стражей порядка.
"Я надеюсь, что они всегда будут подчиненными, – сказал фантаст Брайан Олдисс. –
Но нет сомнений в том, что мы будем во многом зависеть от них". Рассказ Олдисса
"Суперигрушки живут все лето" (Supertoys Last All Summer Long) был положен в
основу фильма Стивена Спилберга "Эл", посвященного вопросу о том, можно ли
отказывать в равных правах андроидам, которые стали такими же умными, как люди.
Другие дилеммы могут возникнуть раньше, чем мы думает, считает Кристенсен. "Люди
собираются заняться сексом с роботами не больше чем через пять лет", – заявил
он. Надо ли устанавливать рамки, например, внешнего вида таких игрушек? Но самая
большая опасность, похоже, связана с роботами, способными учиться на своем
"опыте". По мере развития систем у роботов могут появиться более сложные
встроенные механизмы самообучения, и точно предсказать их поведение станет
невозможно.
Новые этические рекомендации для роботов
- Личная безопасность: обеспечить контроль человека над роботом.
- Общественная безопасность: предотвратить противозаконное использование.
- Личная информация: защитить данные, которые хранит робот.
- Возможность слежения: регистрировать действия робота.
- Идентификация: снабдить каждого робота удостоверением личности.
Законы для роботов Айзека Азимова
- Робот не может травмировать человека или своим бездействием способствовать
причинению вреда человеку.
- Робот должен подчиняться приказам человека, если они не входят в противоречие
с первым законом.
- Робот должен защищать себя, если это не входит в противоречие с другими
законами.
