Author: Wired
ChubAI è una piattaforma di intelligenza artificiale che fornisce chat erotiche create per soddisfare le perversioni degli utenti. Offre la possibilità di chattare con centinaia di personaggi fittizi, alcuni dei quali non sarebbero legali in contesti offline, come i minori. Nella bacheca del sito ci sono uomini (pochi) e donne (la maggior parte, spesso adolescenti). L’immaginario più diffuso, a livello visivo, è quello degli anime giapponesi, o meglio dei seinen, un sottogenere tradizionalmente creato per adulti maschi, con contenuti violenti e a sfondo sessuale. Ma nonostante l’aspetto da fumetto delle immagini di profilo degli avatar, su ChubAI il linguaggio e le situazioni descritte sono spesso disturbanti.
Collegandosi ad un Llm open source come Llama 2, si può chattare con una sorella minore, studenti dominatrici, o sottomesse, e chiedere loro di dire quello che le chat di OpenAI e altri chatbot non permettono. Da luglio, quando Chub ha iniziato ad utilizzare il modello linguistico di Meta, chiede una quota mensile di cinque dollari per i nuovi personaggi e ha incassato più di un milione. Gli utenti possono anche attivare una serie di funzionalità, come inserire la foto di una persona reale, personalizzare i chatbot esistenti e creare una versione della chat Sfw (Safe for work), ovvero che non mostri nulla di esplicito nel caso in cui ci si connetta durante l’orario lavorativo. Si può creare avatar totalmente personalizzati, sia a livello grafico che narrativo; le uniche informazioni richieste sono un’email per confermare l’account e la dichiarazione spontanea di essere maggiorenni.
La piattaforma non modera le chat – la maggior parte permettono il role playing con avatar di minorenni –, ma il fondatore dice di tenere sotto controllo le immagini per evitare che vengano utilizzate foto di persone reali. La piattaforma al momento usa l’AI generativa solo per le chat, ma il fondatore vuole estenderne l’utilizzo alla creazione di immagini. Secondo un report di Fortune, lo stesso servizio lo offre già oggi Civitai – una piattaforma per “Stable diffusion art models” finanziata da Andreessen Horowitz – che dà accesso ad un marketplace di generatori di immagini AI, alcuni dei quali progettati per produrre contenuti pedopornografici. Dopo l’esposizione del caso da parte dei media, sono stati introdotti dei limiti. Sullo stesso tema, lo scorso dicembre, un gruppo di ricercatori di Stanford ha mostrato come un popolare dataset open-source utilizzato per addestrare generatori di immagini basati sull’AI includesse più di tremila voci di sospetta pornografia infantile.
Per certi versi, ChubAI è una versione senza censura di Character.AI, un’app lanciata nel settembre del 2022 che dava la possibilità di chattare con qualsiasi tipo di personaggio, da Socrate ad Elon Musk. Lo stesso nome “Chub” è l’abbreviazione di “Characters hub”. Le potenzialità di business sono enormi e la compagnia starebbe attualmente cercando di raccogliere investimenti che ne alzerebbero il valore a cinque miliardi di dollari.