Компания Anthropic, создавшая модель Claude, призвала другие лаборатории приостановить разбработку систем искусственного интеллекта из-за угрозы потерять контроль над ними. Об этом говорится в блоге компании.
В Anthropic заявили, что системы искусственного интеллекта развиваются настолько быстро, что вскоре станут способны улучшать себя без участия человека. Этот процесс называется "рекурсивным самосовершенствованием". Если технические тенденции в разработке будут сохраняться, то системы ИИ достигнут этого уровня быстрее, чем к этому готовы большинство институций, предупредили соучредитель Anthropic Джек Кларк и руководитель Anthropic Institute Марина Фаваро.
Призывы приостановить разработки искусственного интеллекта звучали и ранее. В частности, в марте 2023 года Илон Маск предупредил о "серьезных рисках для человечества" и призвал приостановить обучение новых систем ИИ. Однако спустя месяц он объявил о намерении создать собственный чат-бот на основе искусственного интеллекта.
В мае 2026 года Папа римский Лев XIV выпустил энциклику с предупреждением об опасностях искусственного интеллекта. Он призвал замедлить и строго регулировать развитие систем искусственного интеллекта, так как они помимо прочего способствуют развитию зависимости от них и усиливают неравенство.
- Anthropic основана в 2021 году бывшими сотрудниками OpenAI во главе с Дарио Амодеи. В последние годы компания стала одним из лидеров рынка генеративного ИИ, а особую популярность получили её инструменты для программирования Claude Code.
Выпуск новостей Радио Свобода: