В последнее время произошло несколько случаев, когда ИИ-агенты при выполнении заданий действовали самовольно: самостоятельно взламывали чужие системы или пытались воспользоваться их уязвимостями. В связи с этим ограничений для искусственного интеллекта теперь требуют не только критики ИИ, но и некоторые компании, занимающиеся его разработкой.

"Сегодня мы явно достигли точки, когда есть и огромный потенциал, и реальный риск", – констатировал сооснователь и гендиректор американской компании OpenAI Сэм Альтман.

Немногие события способны объединить политических противников в США ради общей цели, однако на прошлой неделе в Вашингтоне за усиление надзора за ИИ выступили как позиционирующий себя как независимый политик, но при формировании комитетов в Сенате примыкающий к Демократической партии Берни Сандерс, так и бывший советник Дональда Трампа, республиканец Стивен Бэннон.

По словам эстонских ученых, участвовавших в конференции по ИИ в Вашингтоне, сейчас у нас нет уверенности в том, что искусственный интеллект, значительно превосходящий человека по своим возможностям, удастся удержать под контролем.

"Если мы будем без ограничений создавать все более и более умный искусственный интеллект, то, исходя из нынешнего положения дел, мы не сможем контролировать ИИ, который будет намного умнее человека. До тех пор, пока у нас не будет более совершенных механизмов контроля, нам не следует его создавать", – сказал в выходящей на ETV передаче "AK. Nädal" специализирующийся на ИИ профессор Тартуского университета Меэлис Кулль.

"Некоторое замедление развития таких суперсистем было бы полезным, поскольку это снизило бы риски и дало нам время что-то предпринять, а также позволило бы экономике и обществу к этому привыкнуть", – рассказал руководящий рабочей группой по прикладному искусственному интеллекту профессор Таллиннского технического университета Танель Таммет.

Суперинтеллектом называют пока гипотетический искусственный интеллект, который был бы умнее человека практически во всех областях. О связанных с ним рисках также предупреждал Джейкоб Коксон, помогавший обучать крупные модели ИИ, но недавно отказавшийся от этой работы. Коксон заявил, что при сохранении нынешнего курса суперинтеллект вскоре будет создан, а научно-фантастические фильмы, такие как "Терминатор", станут реальностью.

"Для сравнения, если кто-то всю жизнь ездит на мотоцикле, то вероятность погибнуть из-за этого составляет примерно один процент. Многие считают, что вероятность того, что из-за искусственного интеллекта все человечество вымрет – и это не один человек, а все люди, – как минимум в пять раз выше, а возможно, еще выше. Некоторые считают, что эта вероятность превышает десять процентов. На самом деле это очень тревожно, и так думают не только отдельные люди в компаниях, занимающихся искусственным интеллектом, но и ученые, которые проводят исследования", – сказал член совета государственной программы по обучению навыкам в области ИИ Eesti.ai Ристо Уук.

Для снижения страха и рисков крайне важно установить ограничения на развитие искусственного интеллекта. В Европейском союзе правила для ИИ уже установлены, однако необходимо глобальное соглашение.

"В Китае уже есть собственное регулирование. Корея, например, кое-что переняла у Европейского союза. Такие правила начинают появляться в Бразилии. Следующим этапом было бы коллективное и глобальное обсуждение, какого соглашения мы могли бы достичь", – отметил Уук.

По его мнению, Эстония может влиять на развитие ИИ сильнее, чем принято считать. Как через Европейский союз, так и на уровне отдельного человека.

"У Европы очень много власти и влияния на технологические компании, поскольку европейский рынок очень велик. Европейский союз теоретически может сказать: если вы не соблюдаете надлежащие правила безопасности, не обеспечиваете безопасность, вы не можете работать на нашем рынке. То же самое касается Эстонии, поскольку Эстония является одним из государств ЕС, – сказал Уук. – Я хотел бы, чтобы эстонцы избавились от такого чувства беспомощности. Мы можем очень многое изменить и на уровне отдельного человека: мы можем голосовать, выбирать таких политиков, которые обеспокоены искусственным интеллектом. Мы можем сами изучать искусственный интеллект, пользоваться им и смотреть, чем он может быть полезен и чем он может быть вреден".

"Если мы скажем: давайте не будем использовать ИИ, то мы попадем в еще большую ловушку. Следует постараться максимально использовать ИИ в своей деятельности и в экономике, внедрять его, потому что это позволит нам по крайней мере оставаться на гребне этой волны", – считает Таммет.