Всего документ, созданный во время международной конференции International Joint Conference on Artificial Intelligence, посвященной искусственному интеллекту и проходящей в Стокгольме, подписали 164 организации и 2 140 человек. Соглашение запрещает производство смертельных алгоритмов.
Среди подписавших документ основатель DeepMind Демис Хассабис, основатель SpaceX и Tesla Илон Маск, программист и основатель Skype Жаан Таллин. В соглашении сказано, что оружейные системы, использующие искусственный интеллект, представляют две опасности для человечества — моральную и прагматическую. С моральной точки зрения, решения об окончании человеческой жизни «не должны быть делегированы машинам». Прагматическая угроза заключается в том, что «летальное автоматическое оружие, способное самостоятельно выбирать и нацеливаться на объект без вмешательства человека, опасно дестабилизирует ситуацию для каждой страны и индивида».
Читайте по теме
Тайны школы Илона Маска: огнеметы, боевые роботы и никаких иностранных языков
«Искусственный интеллект готов играть все большую роль в военных системах. Существует неотложная возможность и необходимость для граждан, политиков и лидеров различать приемлемое и неприемлемое использование ИИ. В этом свете мы, нижеподписавшиеся, согласны с тем, что решение о принятии человеческой жизни никогда не должно быть передано машине. Более того, смертоносное автономное оружие обладает характеристиками, совершенно отличными от ядерного, химического и биологического оружия, и односторонние действия одной группы могут слишком легко спровоцировать гонку вооружений, для управления которой международное сообщество не располагает ни техническими инструментам, ни глобальными системами», – говорится в документе.