Die KI-Bilderplattform Civitai steht im Zentrum einer hitzigen Debatte, nachdem Berichte über die mögliche Erstellung von Kinderpornografie und sexuellem Missbrauchsmaterial (CSAM) aufgetaucht sind. Der Cloud Computing-Anbieter OctoML hat daraufhin die Zusammenarbeit mit Civitai beendet.
Eine Untersuchung von 404 Media enthüllte, dass Civitai für die Erstellung von Bildern genutzt wurde, die als Kinderpornografie oder CSAM eingestuft werden könnten. Civitai nutzte OctoMLs OctoAI für die Bilderzeugung. Trotz anfänglicher Bemühungen, die Erstellung schädlicher Bilder einzudämmen, entschied sich OctoML letztendlich für die Beendigung der Geschäftsbeziehung.
Interne Kommunikationen zeigten, dass OctoML sich der Erstellung sexuell eindeutigen Materials auf Civitai bewusst war. Dies umfasste nicht einvernehmliche Bilder von realen Personen und pornografische Darstellungen von Kindern. Als Reaktion auf die Untersuchung führte die Plattform neue Moderationsmethoden ein, darunter Civitai Safe Helper (Minor), um die Generierung von Bildern von Kindern bei Erkennung “reifer Themen oder Schlüsselwörter” zu verhindern.
Die Plattform geriet bereits früher in die Kritik wegen seiner “Bounties”-Funktion, die Nutzer dazu anregte, realistische Bilder von realen Personen zu erstellen und dafür Belohnungen zu erhalten. Diese Funktion wurde genutzt, um unzulässige Deepfakes von Prominenten, Influencern und Privatpersonen zu erstellen, oft mit sexuellem Inhalt. Reagiert wurde mit einem Filter, der die Erstellung von NSFW-Inhalten mit “bestimmten” Prominenten verhindern sollte.
OctoML, das Amazon Web Services für seine Server nutzt, entschied sich, sich von Civitai zu distanzieren. In einer Erklärung betonte das Unternehmen seine Verpflichtung, den sicheren und verantwortungsvollen Einsatz von KI zu gewährleisten. Diese Entscheidung markiert einen Wendepunkt in der Debatte um die ethische Verantwortung von KI-Unternehmen und die Notwendigkeit, Missbrauch ihrer Technologien zu verhindern.
Via Engadget
Kennt ihr das Problem des ersten Eindrucks? Mit dem ersten Eindruck macht man in der Regel alles klar. Man entscheidet…
Apple steht erneut im Mittelpunkt der Kritik, nachdem das Unternehmen seine Gebührenstruktur für Apps außerhalb des App Stores angepasst hat.…
Apple hat nach einer Untersuchung der Europäischen Kommission seine Richtlinien für den App Store in der EU geändert. Diese Änderungen…
Der von Humane entwickelte AI Pin, gedacht als revolutionäres Wearable, das Informationen auf beliebige Oberflächen projiziert, konnte die hohen Erwartungen…
Apple plant eine neue Version des Mac mini, die das kleinste Desktop-Computer-Modell des Unternehmens sein wird. Diese Einführung ist Teil…
Apple plant, seine neuen Apple Intelligence-Funktionen schrittweise einzuführen. Einige dieser fortschrittlichen Funktionen könnten bald kostenpflichtig sein. Analysten diskutieren mögliche Preise…
Diese Website benutzt Cookies um Ihr Nutzererlebnis zu verbessern. Wenn Sie diese Website weiter nutzen, gehen wir von Ihrem Einverständnis aus.
Mehr lesen