Mit Grok kann man auf X in Sekundenschnelle hochgeladene Bilder manipulieren. So kann man etwa angezogene Frauen oder Mädchen entkleiden und im Bikini oder fast nackt zeigen. SRF war dazu per Videokonferenz im Gespräch mit Prof. Dr. Oliver Bendel. Der Technikphilosoph führte aus, wenn kein Einverständnis vorliege, gebe es mehrere Probleme auf ethischer und rechtlicher Ebene. Es handele sich womöglich um eine Verletzung der Menschenwürde, einen Eingriff in das Persönlichkeitsrecht, wenn man an das Recht am eigenen Bild denke, und um digitale sexuelle Gewalt. Es handele sich um sexuelle Fremdbestimmung statt Selbstbestimmung, geschlechtsbezogene Diskriminierung (es sind vor allem Frauen und Mädchen betroffen) und bei Kindern um eine Verletzung des Kindeswohls. Es seien Reputations- und Folgeschäden möglich, privat und beruflich, letztlich möglich gemacht dadurch, dass die Plattform ihrer Verantwortung nicht nachkomme. Der Technikphilosoph betonte, wenn man dies bei Accounts mit vielen Followern und Zugriffen mache, habe man eine große Reichweite. Deepfakes seien damit in der breiten Öffentlichkeit angekommen. Einige Ausschnitte aus dem Gespräch wurden in der Sendung „10 vor 10“ unter dem Titel „KI-Deepfakes und sexualisierte Bilder“ vom 7. Januar 2026 gebracht.

Abb.: Digitale sexuelle Gewalt