«Инциденты с военным ИИ и человеческими жертвами неизбежны»
Военный ИИ рано или поздно станет самостоятельным. Роль человека сведется к анализу потерь и подписанию мирных договоров. Исследователи из ASRC Federal выпустили крайне мрачный прогноз о перспективах военного ИИ. Люди быстро станут помехой в будущей «войне роботов», но точку невозврата мы пройдем намного раньше, чем она начнется.
В отчете подчеркивается, что эксперты не рассматривали вероятность того, что автономные системы огня начнут вдруг палить по своим. Неприятности начнутся намного раньше.
«Нормальный инцидент» неясной природы, связанный с использованием военного ИИ, исследователи считают неминуемым. Они напоминают о крупнейшей ядерном ЧП в США — инциденте на АЭС Three Mile Island в 1979 году — и подчеркивают, что такие сопровождают становление любой перспективной технологии. В случае с военным ИИ речь, вполне вероятно, будет идти о жертвах среди мирного населения.
Сейчас мы представляем войну роботов по фильмам вроде «Терминатора», но на деле все будет иначе. Роботы не объединятся против людей, а будут воевать друг с другом. И в этом противостоянии человеку просто нет места.
Ключевой момент — и наступит он весьма скоро — когда окажется, что вмешательство человека ограничивает эффективность автономных систем. Сторонние эксперты обычно пытаются представить ситуацию с использованием ИИ как выбор между добром и злом, но у военных мозги работают иначе.
«Стоит ИИ-системам доказать свою эффективность, давление с целью увеличить [их] уровень помощи на поле боя будет нарастать неизбежно… Продолжительный успех будет означать постепенное устранение человека из цепочки принятия решений — от надзирателя до оператора „кнопки-убийства“ для полностью автономных летальных систем».
В прямом противостоянии между такими системами любое вмешательство человека означает промедление, а значит — неудачу. Так что военный ИИ неизбежно станет самостоятельным.
В этом случае роль человека сведется к анализу потерь и подписанию мирных договоров.
Дополнительная угроза — широкий охват потенциально военных технологий, которые разворачиваются сейчас и уже задействуют ИИ. Например, стоит лишь добавить к системе распознавания лиц атакующий дрон — и отличная система уничтожения террористов готова.
Эксперты указывают, что таких прогнозов мы не слышим — и не услышим — от компаний-подрядчиков, осваивающих многомиллионные контракты или военных-ястребов, сконцентрированных на увеличении разрушительного потенциала любой ценой.
По их мнению, единственный хороший вариант развития событий — широкая поддержка ограничения или полного запрета ИИ-технологий в гонке вооружений. Но пока многие государства, в том числе ..., выступают против подобных мер. А некоторые эксперты уверяют, что военные роботы резко снизят число потерь среди мирного населения и солдат.
Поделитесь записью с друзьями
Посмотреть ещё 4 фотографии
9 октября в Косово выбрали свою Мисс, которая представит страну на конкурсе "Мисс Вселенная 2014" - ею стала Артнеса Красничи, 21 год.
Посмотреть ещё 5 фотографий
Знакомства для интима в Адыгейске без регистрации
Сайт знакомств онлайн в Адыгейске для взрослых
Сайт знакомств в Адыгейске для серьезных отношений и брака
Сайт знакомств в Адыгейске с девушками с номерами телефонов
Сайт знакомств в Адыгейске кому за 30 без регистрации
Сайт знакомств в Адыгейске с мужчинами без регистрации бесплатно
Сайт знакомств в Адыгейске бесплатно с телефонами и фото
© 2008‒2024 Социально‐развлекательная сеть «Фотострана». Пользователей: 26 116 282 человека
Следующая запись: Наука и жизнь - 25 мая 2019 в 08:07
Лучшие публикации