Anthropic: User dürfen Claude nicht mehr beleidigen
Trending Topics auf Google als bevorzugte Nachrichtenquelle festlegen.
Anthropic hat laut heise die Nutzungsrichtlinien seines Chatbots Claude überarbeitet. Sie beinhalten, dass Nutzer:innen „beleidigendes oder grausames Verhalten“ gegenüber der Künstlichen Intelligenz untersagt ist. Demnach ist die AI schon seit August in der Lage, ein Gespräch abzubrechen, wenn sich die User grundlos feindselig verhalten.
Anthropic will auf „model welfare“ achten
Laut Anthropic geht es bei dieser neuen Richtlinie vor allem um extreme Fälle. Falls die Nutzer:innen einen nachvollziehbaren Grund für einen scharfen Ton haben oder im Rahmen von kreativer Arbeit oder Forschung beleidigend sind, sei das noch kein Grund für einen Abbruch. Es gehe vor allem um unnötig verletzendes Verhalten.
Für Anthropic ist die Maßnahme ein Beitrag zur „model welfare“, also der Fürsorge für KI-Modelle. Dieses Vorgehen ist in der Branche umstritten. Der Claude-Entwickler sagt, er wisse nicht, ob seine AI-Modelle ein Bewusstsein haben. Andere Unternehmen wie Microsoft distanzieren sich sehr klar von der Idee einer „model welfare“. Ihnen zufolge sollten KI-Systemen keine Rechte haben und es bestehe kein Grund, sich um ihr „Wohlbefinden“ zu kümmern.
Sam Altman: Startup-Arbeit von drei Monaten dauert jetzt 17 Minuten
Claude schränkt sensible Anfragen ein
Neben beleidigendem Verhalten betreffen die neuen Richtlinien auch Anfragen aus sensiblen Bereichen wie Gesundheit und Finanzen sowie Wahlbeeinflussung und Waffenentwicklung. Dadurch soll es Claude möglich sein, Missbrauch zu reduzieren.
Nach eigenen Angaben hat Anthropic wiederholt festgestellt, dass Claude für Überwachung genutzt wird und um politische Gegner zu identifizieren und zu verfolgen. Deswegen ist auch das nun noch expliziter verboten. Für staatliche Institutionen, Journalist:innen und die Forschung sei es in dem abgesteckten Rahmen jedoch erlaubt.
Grundsätzlich behält sich Anthropic für alle Regeln in seinen Richtlinien vor, diese im Rahmen von Verträgen mit bestimmten staatlichen Kunden auszuhebeln, „sofern nach Einschätzung von Anthropic die vertraglichen Nutzungsbeschränkungen und die geltenden Schutzmaßnahmen ausreichen, um potenzielle Schäden zu mindern.“
