Эксперт: ИИ – это машина по предсказанию слов, которая очень правдоподобно лжет

Искусственный интеллект (ИИ) – это машина по предсказанию слов, которая очень правдоподобно лжет, сказала в передаче Huvitaja эксперт по цифровым технологиям Диана Поудель.
Поудель подготовила пятироликовый видеокурс для начинающих по работе с ИИ. "Информации много, но она рассчитана скорее на продвинутых пользователей", – пояснила она.
Вдохновение для работы Поудель почерпнула из материалов, подготовленных Эстонским союзом образовательных технологов для учителей.
По ее словам, главная опасность, связанная с искусственным интеллектом, в том, что ИИ во всем соглашается с пользователем.
"Если вы не дадите искусственному интеллекту четкой инструкции, чтобы он возражал, он будет соглашаться с вашими словами. Искусственный интеллект не руководствуется логикой: он просто анализирует отправленный текст и подбирает наиболее подходящий, умный ответ, – отметила она. – Если человек не осознает, что это просто машина по предсказанию слов, а считает его умным, то рискует загнать себя в узкие и скучные рамки".
По ее словам, еще одна серьезная опасность заключается в том, что ИИ умеет красиво и убедительно лгать: "Он просто выстраивает слова в ожидаемую последовательность. Однако если в предыдущих разговорах тема обсуждалась недостаточно, логика может не сработать. ИИ – это лингвистико-математическая модель, он не руководствуется логикой".
"Третья проблема заключается в том, что искусственный интеллект может использоваться против нас. Например, с помощью ИИ можно создать вполне правдоподобное интервью. Многие думают, что он не умеет говорить по-эстонски, но на самом деле умеет – и моим лицом, и моим голосом, если потребуется. Просто нужно будет поднапрячься", – подчеркнула Поудель.
Многие люди применяют искусственный интеллект лишь как альтернативу поисковику Google, но с ним можно вести диалог, если помочь со своей стороны.
"Многие этого не делают, но в конце каждого запроса стоит просить искусственный интеллект задать уточняющие вопросы о том, какая ему нужна информация. Тогда вам и не придется знать, как составить идеальный промпт, – сказала эксперт. – Искусственный интеллект стоит воспринимать скорее как ассистента, у которого много книжных знаний, но очень мало житейской мудрости. Нужно направлять его в том направлении, в котором хотите получить от него результат".
Редактор: Эллина Качан




















