Некоторые пользователи уже поручают ИИ-агентам декларировать налоги, анализировать банковские счета и проверять счета за мобильную связь. Для этого агентам предоставляют доступ к личным данным, но пользователи не всегда знают, где эти сведения обрабатываются и кому могут передаваться. Министерство экономики и коммуникаций Эстонии планирует ввести для ИИ-агентов отдельный цифровой код, который позволит сайтам и госучреждениям распознавать, когда от имени человека действует кто-то другой.

"Мы создаем для человека возможность зарегистрировать себе дополнительный код – мы называем его кодом агента. Он нужен для того, чтобы человек, пользуясь агентом, например, в частных или государственных информационных системах для решения повседневных задач, мог отличить себя от машины, действующей от его имени, то есть от ИИ-агента", – сказала министр экономики и промышленности Лийна Вахтрас "Актуальной камере".

По словам президента Союза инфотехнологий и телекоммуникаций Атса Альбре, несмотря на то, что цифровой код позволит определить, кто действует от имени человека, пока неясно, кто будет отвечать за ошибку ИИ-агента. Границы ответственности важно прояснить до внедрения системы.

"У многих дома есть робот-пылесос. Человек говорит ему: "Убери детскую". И все понятно. Но мы не знаем точно, как он это сделает: повернет налево или направо, не врежется ли во что-нибудь. А допустим, у вас есть собака, она испачкала пол, а робот размазал все по комнате. В итоге отвечаете вы сами. Нельзя сказать, что виноват робот или собака: отвечать должен человек. Мы надеемся, что этот вопрос учтут и как можно скорее прояснят", – сказал президент Союза инфотехнологий и телекоммуникаций Атс Альбре.

Самостоятельность ИИ-агента тоже несет риск. Он может действовать вразрез с командой пользователя.

"Нельзя забывать, что их "разум" основан на больших языковых моделях, которые контролируют другие компании, прежде всего из Китая и США. Невозможно знать, что в итоге придумает агент. Есть много примеров, когда ИИ-агенты выходили из-под контроля. Причем даже в компаниях, которые сами разрабатывают ИИ и должны лучше других знать, как безопасно пользоваться своей технологией", – сказал руководитель по развитию Cybernetica Арне Анспер.

Законопроекту еще предстоит пройти рассмотрение в Рийгикогу. Министерство экономики и коммуникаций Эстонии планирует передать его на рассмотрение парламентской комиссии в начале ноября.