Издание отмечает, что на прошлой неделе Яан Таллинн находился в Нью-Йорке на Генеральной Ассамблее ООН, где занимался разъяснением угроз, связанных с быстрым развитием искусственного интеллекта, передает ERR.

Яан Таллинн, будучи одним из первых инвесторов Anthropic, в ближайшие месяцы может заработать миллиарды долларов, если компания, занимающаяся искусственным интеллектом, выйдет на биржу. Именно обеспокоенность по поводу искусственного интеллекта побудила его инвестировать в компанию.

Более 10 лет Таллинн подчеркивает важность безопасности в сфере искусственного интеллекта. Эта тема недавно привлекла общественное внимание после того, как ученый Anthropic Джейкоб Коксон ушел с должности и предупредил, что искусственный интеллект может выйти из-под контроля.

"К сожалению, я считаю, что мы недостаточно серьезно относимся к этой угрозе и участвуем в гонке за создание технологии, которая может уничтожить человечество", – отметил Таллинн в своем заявлении.

"Если больше людей будут требовать права понимать риски и высказываться об опасностях безрассудной разработки этой технологии, у нас и наших детей будет больше шансов выжить", – сказал он.

Яана Таллинна беспокоит как гонка между лабораториями искусственного интеллекта, конкуренция между США и Китаем, так и растущая способность искусственного интеллекта самостоятельно совершенствоваться.

Он предупреждал об апокалиптических сценариях, например о том, что дата-центры искусственного интеллекта занимают сельскохозяйственные земли и вызывают массовый голод, или о том, что инженеры меняют атмосферу Земли, делая ее непригодной для жизни людей.

По словам друзей и коллег, Яан Таллинн считает, что, если бы он не инвестировал в Anthropic, его место занял бы другой инвестор, которого не заботит безопасность. Как утверждается, Таллинн надеется принести пользу, инвестируя в компании, занимающиеся искусственным интеллектом, и направляя полученные доходы в некоммерческие организации, поддерживающие безопасность искусственного интеллекта.

Сообщество, занимающееся безопасностью искусственного интеллекта, разделилось во мнениях относительно того, что лучше способствует безопасной разработке: самостоятельная работа в компаниях, разрабатывающих технологии, или поддержка независимых исследований в области безопасности.

"Все хорошие и талантливые инженеры, которые осознают эту угрозу, в принципе должны сделать выбор, – сказал соруководитель инвестиционной компании Яана Таллинна Metaplanet Рауно Мильянд. – Либо бежать в убежище и стараться проводить как можно больше времени с близкими, либо пытаться повлиять на этот процесс и повысить вероятность выживания человечества".

Сейчас Таллинну 54 года. Впервые он воспользовался компьютером в 14 лет.

После получения степени по теоретической физике он помог создать программу для обмена файлами Kazaa. В начале 2000-х за ней последовал Skype, который впоследствии Microsoft купила за 8,5 миллиарда долларов.

В 2008 году он познакомился с работами исследователя искусственного интеллекта Элиезера Юдковского.

Юдковский – лидер движения, предупреждающего об угрозах искусственного интеллекта, так называемого сообщества рационалистов. Он известен своими работами на тему согласования искусственного интеллекта с человеческими целями (AI alignment).

Общаясь с Юдковским, Таллинн убедился в существовании угроз, связанных с искусственным интеллектом, и стал крупным спонсором организаций, занимающихся безопасностью в сфере искусственного интеллекта.

Яан Таллинн, которого считают самым богатым человеком Эстонии и состояние которого оценивается в 12 миллиардов долларов, согласно опубликованному им списку пожертвований, направил около 170 миллионов долларов на инициативы в сфере безопасности искусственного интеллекта.

В 2011 году Яан Таллинн связался с Холденом Карнофски, сооснователем организации GiveWell, оценивающей эффективность благотворительности, а также с Дарио Амодеи, работавшим в этой организации, чтобы обсудить угрозы, связанные с искусственным интеллектом.

В том же году во время телефонного разговора с двумя будущими руководителями Anthropic Таллинн сделал мрачный прогноз, следует из стенограммы разговора, опубликованной организацией Coefficient Giving, которая выросла из GiveWell.

"Я оцениваю вероятность погибнуть в катастрофе, вызванной искусственным интеллектом, в двузначное число процентов, – сказал он, согласно стенограмме. – Для меня это как обезвреживание бомбы".

Амодеи не был в этом так уверен. "Эта бомба может существовать, а может и не существовать, – ответил он. – Возможно, именно те действия, которые мы связываем с обезвреживанием бомбы, с наибольшей вероятностью и заставят эту бомбу взорваться".

Несмотря на разногласия, Амодеи и Таллинн продолжили общаться.

Яан Таллинн продолжал инвестировать. Он поддержал находившуюся на ранней стадии лабораторию искусственного интеллекта DeepMind и входил в ее совет директоров, прежде чем в 2014 году компанию купил Google.

"В случае с DeepMind основатели на самом деле не хотели его слушать и не слушали, – сказал автор книги о DeepMind "The Infinity Machine" Себастьян Мэллаби. – Ему никак не удалось повлиять на процессы".

Тем не менее успех DeepMind придал Таллинну вес. Со временем масштабы инвестиций Metaplanet расширились и теперь включают SpaceXAI Илона Маска, Boring Company, а также компанию Oura, производящую умные кольца и также планирующую выйти на биржу.

Среди друзей и соинвесторов Таллинн закрепил за собой репутацию человека, который часто и публично выражает свою обеспокоенность.

В 2021 году, вскоре после того, как Амодеи и несколько других сотрудников покинули OpenAI из соображений безопасности и основали новую компанию Anthropic, Таллинн согласился возглавить инвестиционный раунд на 124 миллиона долларов. По данным компании PitchBook, занимающейся сбором данных о компаниях, стоимость молодого стартапа тогда оценивалась в 461 миллион долларов.

В интервью Таллинн говорил, что поддержал Anthropic в надежде, что к его позиции прислушаются в среде, где разрабатываются опасные технологии. Однако повлиять и на руководителей Anthropic оказалось непросто.

По мере роста компании голос отдельных акционеров становился все слабее, признал Таллинн в этом году в подкасте Manifold.

Соруководитель Metaplanet Мильянд, по его словам, пытался придумать, как использовать доход от ожидаемого выхода Anthropic на биржу, который может превысить два триллиона долларов, на благо человечества.

Однако, если Anthropic не ждет успех, по словам Мильянда, у него и Таллинна все равно есть повод праздновать.

"Если выяснится, что Anthropic потерпела неудачу и ее стоимость упала до нуля, это на самом деле хорошо. Это означает, что мы, вероятно, не достигли искусственного сверхинтеллекта (ASI), а человечество просто купило себе дополнительные годы", – объяснил Мильянд, имея в виду искусственный интеллект, превосходящий человека по своим способностям.

"В этой ситуации оба варианта оказываются выигрышными", – отметил он.