Генеральный директор Anthropic Дарио Амодеи призвал США усилить регулирование искусственного интеллекта и перейти от простой политики раскрытия информации к обязательному контролю безопасности наиболее мощных ИИ-систем. Свою позицию он изложил в новом эссе.
По мнению Амодеи, этап, когда разработчики ограничивались лишь прозрачностью в вопросах создания ИИ, подходит к концу. Одновременно с публикацией эссе Anthropic представила два документа: Advanced AI Framework, посвященный надзору за передовыми моделями, и Economic Policy Framework, в котором рассматриваются экономические последствия возможного замещения человеческого труда искусственным интеллектом.
Глава компании предложил ввести обязательную независимую проверку для моделей, превышающих установленный вычислительный порог.
Согласно инициативе, аудит должны проводить аккредитованные внешние организации. Проверка должна охватывать четыре ключевых направления риска: киберугрозы; возможность создания биологического оружия; потерю контроля над ИИ-системами; автоматизированные исследования и разработки, способные ускорить возникновение перечисленных угроз.
Если результаты тестирования выявят недопустимый уровень риска, государственные органы должны получить полномочия ограничивать или полностью запрещать запуск и дальнейшее развертывание таких моделей.
