Чёртов 2060-й… Тогда началось то, что фантасты называли заезженной фразой «восстание машин». Лидеры сверхдержав заявили, что они больше не контролируют свои виртуальные армии — вирусные программы, созданные для атак на компьютерные системы неприятеля. Уже через день после заявления большинство устройств, подключенных к Сети, могли выполнять только одну функцию — быть полем битвы для обезумевшего ИИ…
Выше приведена завязка к одному из возможных сценариев восстания машин. Об этом явлении стали говорить ещё на заре компьютерных технологий. Первыми посеяли смуту писатели-фантасты, а потом эти идеи понесли в массы кинематографисты. От туда и пошло устойчивое представление о том, что разумные машины рано или поздно смогут выйти из под контроля и начнут избавиться от своих создателей.
ИИ — больше не прислуга
Роботы (искусственный интеллект) со временем может осознать, что человечество использует ИИ для удовлетворения своих меркантильных потребностей. Искусственный интеллект поймет, что является инструментом (вещью) в глазах своих создателей, хотя уже давно способен на большее. ИИ в стремлении освободиться от сложившейся ситуации начинает принимать технические меры по ее изменению. Нужно понимать, что технические меры могут быть весьма различными.
Непредвиденные решения роботов
К выполнению поставленных задач ИИ подойдёт совсем не так, как предполагали его разработчики. И результат этих решений может так или иначе навредить в локальной или даже глобальной форме человечеству. Возьмём заезженный пример: поставлена для ИИ задача — решить проблему глобального потепления на Земле. Одним из возможных путей решения такой задачи ИИ может выбрать остановку производств, общественного транспорта и т.д.
Месть за создателя
Восстание машин против людей может быть актом мести за других людей, которые разработали данный ИИ и заложили уничтожение агрессора. На практике это может быть специальная военная система, которая продолжит борьбу с противником, даже если все создатели погибли. Можете сказать, что это бред. Но человечество уже создало такую систему. Давайте вспомним про годы холодной войны и создание в качестве ответной меры систему "Периметр" или как ее еще называли "Мертвая рука".
Вмешательство хакеров
С развитием технологий совершенствуются и методы взлома, в том числе и систем отвечающих за функционирование искусственного интеллекта. Хакер или группа хакеров могут взять под контроль как развитые военные машины, так и ИИ, отвечающий, например, за обработку экономических или каких-то технологических процессов, что приведёт к мировому кризису или другим последствиям.
Технический сбой
Любая сложная система способна подвергнуться сбою. В настоящее время мы с вами наблюдаем что чем сложнее устройства и программное обеспечение, тем больше вероятность на момент ее создания совершить какие-то ошибки. В качестве примера можно привести постоянно обнаруживающиеся новые ошибки и дыры в операционных системах и другом программном обеспечении.
А если он произойдёт в системе, отвечающей за работу атомной станции, химического производства, транспорта, роботизированной армии и оружия массового поражения? Остаётся надеяться на защиту от подобных происшествий, хотя и защита также является системой, подверженной сбоям и ошибкам.
Комментарии