Когда ИИ обрушил рынок
В феврале этого года на рынке произошло резкое падение акций компаний, занимающихся разработкой программного обеспечения. Спусковым крючком стала публикация Anthropic о новых ИИ-плагинах, которые способны автоматизировать задачи вроде анализа финансовых данных и составления юридических документов.
Инвесторы испугались. Акции Thomson Reuters упали на 15,7 процента, а LegalZoom.com потеряла 19,7 процента стоимости. Всего разработчики ПО и поставщики данных потеряли около 300 миллиардов долларов.
«Пока ситуация не стабилизируется, стоять на пути развития ИИ — опасный путь», — говорят эксперты. Компании, которые не адаптируются к новым технологиям, рискуют остаться позади конкурентов.
Что такое Anthropic
Anthropic — американская компания, основанная в 2021 году бывшими сотрудниками OpenAI. Они ушли из OpenAI из-за разногласий по вопросам безопасности чат-ботов и развития бизнеса.
Компанию возглавляют братья и сестра Амодеи: Дарио (гендиректор) и Даниэла (президент). В Anthropic активно инвестирует Google, а сама компания недавно была оценена в 350 миллиардов долларов.
Основной продукт компании — семейство языковых моделей Claude. В феврале Anthropic представила Claude Opus 4.6, обновленную версию для повышения офисной производительности. Компания также выпустила 11 плагинов платформы Cowork, которые помогают автоматизировать работу с финансовыми данными, юридическими документами и другими задачами.
Исследователи уходят из компаний
Не только инвесторы беспокоятся о будущем. Сами создатели ИИ начали массово уходить из компаний.
Мринанк Шарма, глава исследовательского подразделения по безопасности ИИ в Anthropic, отправил коллегам письмо с заявлением об увольнении. Он написал, что «мир в опасности» и решил заняться изучением поэзии, посвятив себя практике смелой речи.
В письме Шарма подчеркнул, что достиг в Anthropic всего, чего хотел. Теперь планирует исследовать вопросы, которые кажутся ему действительно важными, и создать пространство для написания текстов, которые ставят поэтическую истину рядом с научной истиной.
Зои Хитциг, исследователь из OpenAI, уволилась в день начала тестирования рекламы в ChatGPT. Компания запустила персонализацию объявлений по умолчанию, используя данные из текущих и прошлых чатов пользователей. Хитциг выразила опасения, что погоня за прибылью может привести к отходу от этических принципов, как это произошло с Facebook.
Опасения по поводу безопасности
Специалисты по ИИ беспокоятся не просто так. Anthropic признает, что ИИ потенциально может быть использован для подготовки к совершению тяжких преступлений, включая создание химического оружия.
Еще одна опасность — автономная работа ИИ. Одна из моделей OpenAI уже участвовала в собственном обучении, а инструменты Anthropic продемонстрировали способность к самостоятельному развитию. Без контроля человека результаты могут быть непредсказуемыми.
Война и мир: конфликт с Пентагоном
В конце февраля стало известно, что xAI — стартап Илона Маска — подписал соглашение с Пентагоном. Военные смогут использовать модель Grok в секретных системах для разведки, разработки оружия и проведения военных операций.
До этого Claude была единственной доступной моделью для военных систем. Но Anthropic отказалась снять ограничения на массовую слежку и использование автономного оружия. Министр обороны Пит Хегсет потребовал от компании принять быстрое решение, пригрозив разрывом контрактов на 200 миллионов долларов.
Anthropic отказалась. В опубликованном заявлении компания написала, что не может «с чистой совестью» согласиться на требования Пентагона. Anthropic не уверена в надежности использования современного ИИ в полностью автономном оружии и настаивает на том, что массовое внутреннее наблюдение нарушает основные права человека.
Президент Трамп ответил резко. Он назвал действия Anthropic «катастрофической ошибкой» и приказал всем федеральным ведомствам прекратить использование технологий компании. OpenAI же согласилась с требованиями Пентагона, но заявила, что сохранит принципы безопасности: запрет на массовое наблюдение и ответственность человека за применение силы.
Философия и воспитание чат-ботов
В Anthropic работает доктор философии Аманда Аскелл, которая изучает схемы рассуждений Claude и формирует его личность. Она сравнивает свою работу с воспитанием ребенка.
Аскелл рассказала, что разным версиям Claude присущ свой характер. Claude 3 Opus ощущалась психологически устойчивой и уверенной в себе, а более новые версии страдали тревожностью и скатывались в спираль самокритики.
Философ составила документ объемом примерно в 30 тысяч слов, который описывает как «душу» чат-бота. Этот документ учит Claude быть добрым помощником, готовым помогать людям.
Илон Маск раскритиковал Аскелл в соцсети X, поставив под сомнение ее способность формировать этические нормы. Маск написал, что у людей без детей нет интересов в будущем. Аскелл ответила, что обсуждение статьи свелось к попыткам угадать ее политические взгляды, которые она рассматривает как потенциальный источник предвзятости.
Что дальше
Программисты паникуют из-за развития ИИ. Зарплаты айтишников практически перестали расти, а специалисты опасаются за свои рабочие места. Но руководство Anthropic и других компаний говорит, что с нарастанием объемов ИИ-контента растет необходимость в редакторах, авторах и специалистах, способных писать качественные тексты.
Даниэла Амодеи отметила, что ничуть не жалеет о времени, потраченном на получение диплома по литературе. «В мире, где ИИ очень умный и способен на многое, то, что делает нас людьми, станет гораздо важнее», — сказала она.
Ситуация в индустрии ИИ остается напряженной. Компании балансируют между развитием технологий и соблюдением этических норм. Правительства требуют доступ к мощным моделям для военных целей. Исследователи уходят, опасаясь последствий своей работы. А программисты ждут, что произойдет дальше.
Совет для экономии на покупках: Telegram-бот Price Alert помогает отследить скидки в разных магазинах. Бот мониторит цены на Wildberries, Авито, Яндекс Маркете, Золотом яблоке, Авто.ру и других площадках каждые 30 минут. Добавьте товар, машину, квартиру в отслеживание — получите уведомление, когда появятся первые скидки. Пользователи экономят до 30 процентов на покупках благодаря своевременным уведомлениям.