Anthropic заботится о «психологическом благополучии» AI: Claude сам завершает токсичный диалог
Компания Anthropic внедрила новую функцию в своих языковых моделях Claude Opus 4 и 4.1, позволяющую инициировать завершение диалога в ответ...
Anthropic – ведущая американская компания в области искусственного интеллекта, основанная в 2021 году бывшими сотрудниками OpenAI. Специализируется на разработке безопасных и управляемых ИИ-систем. Флагский продукт – AI-ассистент Claude, прямой конкурент ChatGPT. Компания отличается уникальным подходом к безопасности ИИ через технику Constitutional AI, где модели обучаются следовать этическим принципам. В 2025 году Anthropic привлекла $13 млрд инвестиций при оценке $183 млрд, став одним из самых дорогих AI-стартапов в истории.
Claude от Anthropic работает на продвинутых языковых моделях (Claude 3.5 Sonnet), способных обрабатывать текст, изображения и данные. Ключевые преимущества: повышенная безопасность, снижение предвзятости и точное следование инструкциям. Технологии компании используются в юриспруденции, образовании, исследованиях и customer-сервисе. Особое внимание уделяется корпоративным решениям – предприятия могут развертывать локальные версии Claude с полным контролем данных. Компания активно сотрудничает с Amazon Web Services и Google Cloud.
Компания Anthropic внедрила новую функцию в своих языковых моделях Claude Opus 4 и 4.1, позволяющую инициировать завершение диалога в ответ...