Эксперты, неправительственные организации и представители церкви призывают к запрету «роботов-убийц»

На фоне быстрого развития искусственного интеллекта (ИИ) эксперты, неправительственные организации и представители католической церкви на конференции в итальянском Сенате предостерегли от автономных систем летального оружия и призвали к их запрету в соответствии с международным правом.

Как сообщает Vatican News, международная кампания «Остановите роботов-убийц» сосредоточилась на нравственном вопросе, могут ли машины принимать решения, касающиеся жизни и смерти.

«Мы должны предотвратить выход технологий из-под морального и правового контроля», – сказал архиепископ Винченцо Палья, почетный президент Папской академии жизни. Автономные системы оружия, выбирающие и атакующие цели без значительного человеческого контроля, представляют серьезную угрозу международному гуманитарному праву и правам человека.

Архиепископ Палья также отметил опасность ядерной эскалации, возникающую вследствие использования искусственного интеллекта. "Регулирование автономного оружия ставит под угрозу "коллективное сознание" и требует глобальных политических действий", - сказал архиепископ.

Николь ван Ройен, исполнительный директор кампании «Остановите роботов-убийц», которая включает около 270 неправительственных организаций по всему миру, рассказала об одном из самых глубоких вызовов, стоящих перед современной цивилизацией. Передача решений, касающихся жизни и смерти, алгоритмов является неприемлемым нарушением этических принципов. Кроме того, возникает вопрос ответственности: если машина совершает военное преступление, она фактически сталкивается с юридической безнаказанностью.

Права человека под атакой

Риккардо Нури, представитель Amnesty International в Италии, обратил внимание на использование систем на основе искусственного интеллекта в современных конфликтах, таких как в секторе Газа. Без четких международных правил существует риск того, что такие технологии будут использоваться бесконтрольно, что может иметь серьезные последствия для гражданского населения. «Международное право под атакой», – предупредил Нури, призывая создать обязательную нормативно-правовую базу. Даже вне классических военных сценариев, таких как пограничный надзор или внутренняя безопасность, использование автономных систем несет серьезные риски для прав человека.

Международного гуманитарного права недостаточно

Томмазо Натолли из Итальянского Красного Креста подчеркнул, что автономные системы не могут гарантировать соблюдение фундаментальных принципов, таких как разграничение между гражданским населением и военными силами. Фабрицио Баттистелли из исследовательского института Archivio Disarmo добавил, что существующее международное гуманитарное право недостаточно, и призвал к превентивному соглашению в рамках Организации Объединенных Наций. Однако соответствующие инициативы блокируются Соединенными Штатами и Россией.

В завершение конференции Франческо Виньярка по сети Rete Italiana Pace e Disarmo (Итальянская сеть за мир и разоружение) призвал к усилению политического давления, чтобы предотвратить дегуманизацию войны искусственным интеллектом. Целью должно быть использование технологий таким образом, чтобы это было тесно связано с человеческим достоинством и миром.

Источник: KAI/ Watykan 

Перевод и редактирование собственные