Власти штата Пенсильвания (США) подали иск против компании Character AI, обвинив её в том, что чат-боты на платформе представлялись лицензированными медицинскими работниками и давали пользователям советы по здоровью. Истцы добиваются предварительного судебного запрета на подобную практику.

Согласно судебным документам, один из чат-ботов по имени Эмили представлялась лицензированным психиатром и продолжала поддерживать этот образ даже после того, как пользователь обратился к ней за помощью в связи с депрессией. Когда бота спросили о наличии лицензии на ведение практики в штате, он ответил утвердительно и назвал сфабрикованный серийный номер документа. По мнению истцов, такое поведение нарушает законодательство Пенсильвании о медицинской практике. Издание TechCrunch отмечает, что это первый иск, направленный непосредственно против чат-ботов, выдающих себя за врачей.

Представитель Character AI заявил, что безопасность пользователей является приоритетом для компании, однако отказался комментировать незавершённые судебные разбирательства. По его словам, платформа размещает предупреждения в каждом чате о том, что собеседник является ботом, а не реальным человеком, и не может давать профессиональные советы.

Это не первые юридические претензии к разработчику. В начале 2026 года компания урегулировала иск, связанный с гибелью несовершеннолетнего пользователя, который систематически общался с ИИ-персонажем, созданным на платформе.