Wer nach der Veröffentlichung von OpenAIs ChatGPT Ende November 2022 in den sozialen Medien unterwegs war, traf dort nicht nur Erstaunen über die beeindruckenden Fähigkeiten der Technologie an, sondern auch Häme, wie schnell sie sich aufs Glatteis führen ließ. So konnten beispielsweise relativ leicht diskriminierende oder gar extremistische Texte sowie Anleitungen zum Waffenbau generiert werden.