8 октября компания Anthropic объявила об изменении правил использования ИИ-моделей Claude. С 12 ноября пользователям запретят систематически и без видимых причин проявлять жестокость или оскорбительно вести себя по отношению к нейросетям.
В компании подчеркнули, что нововведение касается только крайних случаев, когда пользователи неоднократно проявляют жестокость к моделям без очевидных оснований. При этом ограничения не затронут выражение недовольства, критику ответов, использование мрачных тем в творческих проектах, а также тестирование и исследование возможностей искусственного интеллекта.
Основным инструментом реализации новых правил станет возможность Claude самостоятельно прекращать подобные диалоги. О введении дополнительных санкций за такое поведение Anthropic не сообщила.
Изменения в «Политике использования» также коснулись применения ИИ в медицине, финансовом секторе, правоохранительной сфере и управлении физическим оборудованием. В Anthropic объяснили пересмотр правил расширением возможностей Claude и появлением новых способов злоупотребления технологиями.