Franse ministers klagen AI dienst Grok van xAI aan om illegale inhoud

Franse ministers hebben justitie ingeschakeld vanwege de chatbot Grok van xAI. De chatbot heeft namelijk "seksuele en seksistische" inhoud verspreid die volgens de ministers "overduidelijk illegaal" is. Het probleem kwam aan het licht toen Grok onlangs beelden van schaars geklede minderjarigen genereerde naar aanleiding van gebruikersverzoeken. Dit druist in tegen de regels van de chatbot, die de seksualisering van kinderen verbieden, zo gaf Grok deze week aan op X na vragen van gebruikers.

De chatbot heeft inmiddels laten weten dat de aanstootgevende beelden zijn verwijderd. "We hebben beveiligingsfouten ontdekt en zijn deze met spoed aan het oplossen," aldus Grok. De maatregelen worden genomen om herhaling te voorkomen en de veiligheid van de gebruikers te waarborgen.

Daarnaast hebben de ministers de Franse mediatoezichthouder Arcom ingeschakeld. Arcom moet onderzoeken of Grok de regels van de Digital Services Act (DSA) van de Europese Unie heeft overtreden. Deze wet bepaalt dat alles wat offline strafbaar is, ook online strafbaar moet zijn. Dit betekent onder andere dat het online verspreiden van illegale inhoud en het beperken van de grondrechten van gebruikers onder de DSA vallen.