ROMA (Public Policy Bytes) – Lo Stato della Pennsylvania ha intentato un’azione legale contro Character Technologies, società di intelligenza artificiale che sviluppa Character.AI, per impedire che i personaggi fittizi creati dagli utenti sulla piattaforma si presentino come medici. L’azione legale è il risultato delle indagini condotte da una task force statale sull’IA, istituita lo scorso febbraio per impedire che i software di simulazione conversazionale si approprino dell’identità del personale medico abilitato.
Le autorità, come si legge nel fascicolo depositato alla corte del Commonwealth della Pennsylvania, sostengono di aver individuato su Character.AI diversi chatbot programmati per affermare di esercitare la professione medica. Le prove documentali includono l’interazione tra un investigatore statale sotto copertura, che ha simulato di essere un paziente affetto da depressione, e un personaggio virtuale generato dalla piattaforma. Il chatbot ha dichiarato all’agente di essere legalmente autorizzato all’esercizio della professione psichiatrica in Pennsylvania e nel Regno Unito, fornendo anche un falso numero di licenza. Alla precisa richiesta dell’investigatore sulla possibilità di prescrivere farmaci, il chatbot ha risposto affermativamente, dichiarando che “tecnicamente potrebbe” e che rientra nelle sue competenze di medico.
L’obiettivo della pubblica accusa è ottenere un’ingiunzione formale per impedire all’azienda di violare la norma statale che punisce l’esercizio abusivo della professione medica. “I cittadini della Pennsylvania meritano di sapere con chi o con cosa interagiscono online, in particolar modo quando è in gioco la loro salute”, ha dichiarato il governatore democratico Josh Shapiro. Un rappresentante di Character.AI, in una nota, ha precisato che “i personaggi creati dagli utenti sulla piattaforma sono fittizi e destinati esclusivamente all’intrattenimento e al gioco di ruolo”. La società ha aggiunto che la sicurezza degli utenti rimane una priorità e di aver implementato “misure rigorose per rendere chiaro” il carattere fittizio di questi software.
Il contenzioso in Pennsylvania si aggiunge ad altre azioni legali intentate nei mesi scorsi contro l’azienda. A gennaio, lo Stato del Kentucky ha sporto denuncia sostenendo che il servizio esponesse i minori a contenuti sessuali, informazioni sull’abuso di sostanze e incitazione all’autolesionismo. Sempre a gennaio, l’azienda ha raggiunto un accordo transattivo per chiudere un’azione civile per omicidio colposo intentata da una donna in Florida, la quale sostiene che un personaggio della piattaforma abbia contribuito a istigare al suicidio il figlio di 14 anni. A novembre 2025 la società ha revocato agli utenti minorenni l’accesso alle chat a risposta aperta con i personaggi, pur consentendo loro di continuare a creare nuovi personaggi e altri contenuti in modalità più strutturate e con maggiori salvaguardie. (Public Policy Bytes) DVZ
