Глава Anthropic Дарио Амодей призывает человечество осознать потенциальные угрозы мощных систем ИИ, которые могут появиться уже в ближайшие годы. Он очертил риски от потери рабочих мест до биотероризма.
Человечество "должно проснуться" относительно потенциально катастрофических рисков, которые представляют собой мощные системы ИИ в ближайшие годы, по словам руководителя Anthropic Дарио Амодея, чья компания является одной из тех, кто расширяет границы этой технологии, пишет УНН со ссылкой на Financial Times.
Детали
Амодей в эссе в понедельник обрисовал риски, которые могут возникнуть, если технология будет развиваться бесконтрольно — от масштабных потерь рабочих мест до биотероризма.
"Человечеству вот-вот будет передана почти невероятная власть, и до конца непонятно, обладают ли наши социальные, политические и технологические системы зрелостью, чтобы ею владеть", — написал Амодей.
Эссе стало суровым предупреждением от одного из самых влиятельных предпринимателей в области ИИ о том, что меры предосторожности в отношении ИИ недостаточны.
Амодей обрисовывает риски, которые могут возникнуть с появлением того, что он называет "мощным искусственным интеллектом" — систем, которые будут "намного более мощными, чем любой лауреат Нобелевской премии, государственный деятель или технолог", — что, по его прогнозам, вероятно произойдет в ближайшие "несколько лет".
Среди этих рисков — потенциал для отдельных лиц разработать биологическое оружие, способное убить миллионы или "в худшем случае даже уничтожить всю жизнь на Земле".
"Психически неуравновешенный одиночка, способный совершить стрельбу в школе, но, вероятно, не способный создать ядерное оружие или выпустить чуму… теперь будет сведен до уровня способностей вирусолога со степенью доктора наук", — написал Амодей.
Он также поднимает вопрос потенциальной возможности того, что ИИ "выйдет из-под контроля и подчинит себе человечество" или усилит авторитарных правителей и других злоумышленников, что приведет к "глобальной тоталитарной диктатуре".
Амодей, чья компания Anthropic является главным конкурентом разработчика ChatGPT OpenAI, столкнулась с Дэвидом Саксом, ИИ и крипто-"царем" президента США Дональда Трампа, относительно направления регулирования США.
Он также сравнил планы администрации продавать передовые чипы искусственного интеллекта Китаю с продажей ядерного оружия Северной Корее.
В прошлом месяце Трамп подписал исполнительный указ, чтобы помешать усилиям на уровне штатов по регулированию компаний, занимающихся искусственным интеллектом, и в прошлом году опубликовал план действий по искусственному интеллекту, в котором изложены планы по ускорению инноваций в США.
В своем эссе Амодей предупредил о масштабных потерях рабочих мест и "концентрации экономической мощи" и богатства в Кремниевой долине в результате развития искусственного интеллекта.
"Это ловушка: искусственный интеллект настолько мощный, такой блестящий приз, что человеческой цивилизации очень трудно вообще наложить на него какие-либо ограничения", — добавил он.
Завуалированно ссылаясь на спор вокруг Grok AI Илона Маска, Амодей написал, что "некоторые компании, занимающиеся искусственным интеллектом, продемонстрировали тревожную небрежность в отношении сексуализации детей в современных моделях, что заставляет меня сомневаться, что они проявят или склонность, или способность учитывать риски автономии в будущих моделях".
Еврокомиссия расследует распространение незаконного контента через чат-бот Grok Илона Маска26.01.26, 15:27 • 4990 просмотров
Проблемы безопасности искусственного интеллекта, такие как биологическое оружие, автономное оружие и злонамеренные действия государственных субъектов, занимали видное место в публичном дискурсе в 2023 году, отчасти благодаря предупреждениям таких лидеров, как Амодей, отмечает издание.
Политические решения относительно искусственного интеллекта все чаще обусловлены желанием воспользоваться возможностями, предоставляемыми новой технологией, а не смягчить ее риски, по словам Амодея.
"Эти колебания досадны, поскольку сама технология не озабочена тем, что модно, и мы значительно ближе к реальной опасности в 2026 году, чем в 2023 году", — написал он.
Амодей был одним из первых сотрудников OpenAI, но покинул его, чтобы стать соучредителем Anthropic в 2020 году после конфликта с Сэмом Альтманом относительно направления OpenAI и ограничений в области ИИ.
Anthropic ведет переговоры с такими группами, как Microsoft и Nvidia, а также с инвесторами, включая сингапурский суверенный фонд благосостояния GIC, Coatue и Sequoia Capital, о раунде финансирования в 25 миллиардов долларов или более, что оценивает компанию в 350 миллиардов долларов, пишет издание.
ИИ в современном оружии: почему тема стала актуальной и какие риски несет17.10.25, 10:15 • 157736 просмотров
