До тех пор, пока не исчезнут конфликты между людьми, гонка вооружений будет продолжаться. Если в ходе потасовки кто-то схватил камень, это должен был сделать и другой. На брошенный камень отвечали встречным броском камня. Изобретенную для нападения с еще большего расстояния пращу начали использовать многие. По той же схеме работали лук, арбалет, ружье, снаряд, ракета и атаки на ИТ-системы.

В основе этой логики мало человеческого. Люди просто изобретают новые средства, а сама система требует баланса. Эскалацией движут не амбиции, а симметрия – потребность не уступить противнику.

Эта логика системна. Где бы ни возникало преимущество, за ним сразу следует имитация. А там, где есть имитация, видна и эскалация. Иногда соревнование ведет нас, образно говоря, в гору – к позитивным достижениям. Позитивное развитие вызывает ответную реакцию. Определяющими становятся лишь масштаб и временной сдвиг. Одна сторона всегда делает свой ход первой, и именно в этом возникающем "окне времени" кроется наша единственная возможность сохранять терпимый положительный баланс.

Процесс не останавливается. Каждый успех защитников заставляет нападающих оттачивать свои методы. Иногда асимметрия может длиться чуть дольше, но этого никто не гарантирует. В общих чертах можно констатировать, что обществам, несмотря на добавление новых факторов риска, до сих пор удавалось больше выиграть, чем потерять. Угрозы прибавляются, но благодаря общим усилиям мы держимся чуть впереди поражения.

В то же время нужно учитывать, что позитивные достижения распределяются неравномерно. Даже если в общей картине баланс может быть на стороне "хороших парней", в некоторых местах могут возникнуть потери. Например, мы победили глобальный террор, но в некоторых регионах жизнь по-прежнему диктуют экстремистские группировки. Причина кроется в географии. Киберпространство имеет мало общего с географией, и в этой среде опасности подвержены все.

Киберпреступность развивается, и ущерб растет. Поскольку меры защиты тоже улучшаются, хотелось бы продолжить разговор о положительном балансе. К сожалению, для этого нет веских причин. Вызов, стоящий перед защитниками, во много раз сложнее. Они должны обеспечить безопасность всех частей системы. Преступникам же достаточно одного-единственного успеха. Асимметрия здесь работает напрямую в пользу злоумышленников. Общую картину характеризует неопределенность, мнимая стабильность которой проистекает из болевого порога тех, кто несет ущерб. Неудобная правда заключается в том, что мы не знаем, какая сторона на самом деле сейчас берет верх.

Развитие искусственного интеллекта, по всей видимости, ухудшает положение дел. Сначала казалось, что новые ИИ-модели дадут защитникам преимущество в превентивном поиске уязвимых мест в программном обеспечении. Недавно распространилась новость, в которой компания Anthropic сообщила, что их новейшая ИИ-модель обнаружила сотни серьезных уязвимостей в массовом программном обеспечении. Фирма выборочно предоставила владельцам программного обеспечения доступ к модели, чтобы они очистили свои системы и предотвратили ситуацию, при которой слабые места могли бы использовать преступники.

Временное преимущество продлилось лишь несколько недель, так как Google сообщила о первом возможном случае, когда киберпреступники с помощью искусственного интеллекта нашли в программном обеспечении совершенно новую уязвимость и сразу же провели атаку. Ошибка была такой, о которой раньше никто не знал. Даже если о ней узнают в тот же момент, что и преступники, защитникам потребуется время на создание, тестирование и внедрение необходимых исправлений.

Мы достигли новой реальности, в которой инструменты "хороших" и "плохих" одинаково мощны. Началась новая волна эскалации. Инструмент, дающий преимущество одной стороне, редко остается чьей-то исключительной собственностью. Для ИИ нет разницы, ищет ли он ошибки для исправления или для злоупотребления. Работа ИИ руководствуется максимальным успехом. При совершении добра это полезно, но ценой этого множится и зло. Разница зависит от пользователя и скорости его действий.

Это не локальная проблема. Угроза подстерегает в общей инфраструктуре, в которой функционируют банковское дело, здравоохранение, транспорт, связь, образование и так далее. Эскалация не прекращается, ее скорость растет. Никто не может выйти из начинающегося цикла. Напротив, растет наша зависимость от искусственного интеллекта, и в конечном итоге вопрос может быть не в победителе. Вопрос в том, успеет ли кто-то из нас вообще среагировать.