KI-Modelle

Daniela Amodei von Anthropic: “Claude ist transformativ, weil es unstrukturierte Daten strukturiert”

Das Panel mit Daniela Amodei, Anthropics Co-Founderin und Parker Harris, Salesforce Co-Founder und CTO wurde von Sam Jacobs, dem Chefredakteur vom „Time” Magazin moderiert. © Trending Topics, Julia Gerber
Das Panel mit Daniela Amodei, Anthropics Co-Founderin und Parker Harris, Salesforce Co-Founder und CTO wurde von Sam Jacobs, dem Chefredakteur vom „Time” Magazin moderiert. © Trending Topics, Julia Gerber
Startup Interviewer: Gib uns dein erstes AI Interview Startup Interviewer: Gib uns dein erstes AI Interview

Schauplatz: Dreamforce Konferenz von Salesforce inmitten des Silicon Valleys in San Francisco. Wie Daniela Amodei, Co-Founderin des KI-Vorreiter-Startups “Anthropic„, ethische Aspekte der künstlichen Intelligenz bewertet und wie sie die zukünftige Rolle von KI in großen Unternehmen sieht, wurde im Panel „The Future of Enterprise AI“ diskutiert.

Privatsphäre, Sicherheit und Vertrauen

Wie Amodei berichtete, setzt Anthropic in der Entwicklung von KI-Modellen auf Constitutional AI. Das ist ein Ansatz zur Entwicklung von KI-Systemen, die die Entscheidungsfindung und das Verhalten der KI in Übereinstimmung mit bestimmten ethischen Grundsätzen und Werten gestalten. Für die Co-Founderin, die sich mit Anthropic einen Ruf als eines der besten KI-Startups weltweit aufgebaut hat, stehen persönliches Vertrauen und Sicherheitsaspekte in Geschäftsbeziehungen an erster Stelle – genauso wie ethisch korrektes Verhalten der Modelle. „Wenn man KI trainieren will, müssen ethische Grundsätze im Vorhinein festgelegt und integriert werden – danach ist es zu spät,“ so die KI-Forscherin und Unternehmerin.

“KI-Fähigkeiten der Agenten sind wichtig”

Daniela Amodei war zuvor als Vizepräsidentin für „Safety and Policy“ bei OpenAI tätig. Die autonomen KI-Agenten von Salesforce bezeichnete sie als „wichtig“, betonte jedoch: „Grundsätzlich sind die KI-Systeme von heute in vielerlei Hinsicht sehr fähig, aber in ihren Funktionen noch begrenzt. Doch im Gegensatz zu vor einem Jahr können auch die Modelle von Claude nun Dinge umsetzen, die zuvor nicht möglich waren.“

Wichtig sei, von Tag eins an die richtigen Rahmenbedingungen zu schaffen, um dem Modell die richtigen Anweisungen geben zu können. Man müsse der KI auch beibringen, wie sie sich zu verhalten hat, wenn sie die gesuchten Informationen nicht zur Verfügung stellen kann. Im Fall des Kundenservices sollte die Technologie direkt an einen Menschen weiterleiten, anstatt zu halluzinieren.

Das KI-Startup strebt perfekte Genauigkeit an

Laut Amodei sind einige Unternehmen, die in den letzten zwei Jahren bereits Versuche mit KI-Systemen gestartet haben – zum Beispiel im Bereich Kundenservice – nun mit einer gewissen Angst behaftet, dass etwas schiefgehen könnte. Dies komme daher, dass im Entwicklungsprozess der Technologie möglicherweise schlechte Erfahrungen gemacht wurden. „Es überrascht nicht, dass viele Menschen ein gewisses Maß an Fragen haben, wofür KI eingesetzt werden soll und ein gesundes Maß an Skepsis“, so Amodei. Claude sei in der Lage, ein breites Spektrum an Aufgaben auszuführen und strebe perfekte Genauigkeit an.

Mit einem Anwendungsfall beginnen

Amodei rät Unternehmen bei der KI-Implementierung dazu, mit einem Anwendungsfall zu beginnen, bei dem man sich wohlfühlt – und erst danach tiefer in die Materie einzutauchen. Dabei müssen der Grad der Genauigkeit sowie die Bearbeitungs- oder Lösungszeit vorab bestimmt werden. In das Salesforce-Tool “Slack“ wurde das KI-Modell „Claude“ von Anthropic nativ integriert.

Für Parker Harris, Salesforce CTO, ist Claude ein unglaublicher Partner, um Informationen zusammenzufassen, wie er im Panel verrät. Die KI in Slack könne Gespräche in komprimierter Form zusammenfassen, Workflows erstellen und somit  die Informationssuche im Alltag erheblich erleichtern. Zwischen dem Startup und dem Großkonzern wurde laut Harris schon sehr früh eine Partnerschaft geschlossen. Anthropic sei als KI-Experte führend in der Entwicklung von LLMs und profitiere von der Partnerschaft mit Salesforce, da der Softwarekonzern seine Kunden sehr gut kenne und über umfangreiche, in der realen Welt validierte Daten verfüge.

„Claude strukturiert unstrukturierte Daten“

„Die Unternehmensbranche ist stark gewachsen und es gibt so viele Daten. Wenn man mit Führungskräften von S&P-500-Unternehmen spricht, beklagen sie sich oft darüber, wie schwierig es ist, die richtigen Informationen zu finden. Claude ist ein Werkzeug, das riesige Informationsmengen durchsuchen kann.“ Als Beispiel nennt Amodei die Suche nach einem falschen Wort in einem Buch. Während ein Mensch dafür Tage braucht, soll Claude dies in 10 Sekunden schaffen. Ein weiteres Beispiel sei der Gesundheitssektor: Ärzte könnten mit Claude nach einem Detail aus der Krankenakte eines Patienten suchen, auch wenn dies schon 40 Jahre zurückliegt. „KI kann Daten durchsuchen und die relevanten Punkte herausfiltern. Claude ist transformativ, weil es unstrukturierte Daten strukturiert“, so die Anthropics-Gründerin.

Linkedin trainiert AI mit Userdaten – ohne Änderung der Nutzungsbedingungen

Werbung
Werbung

Specials unserer Partner

Die besten Artikel in unserem Netzwerk

Powered by Dieser Preis-Ticker beinhaltet Affiliate-Links zu Bitpanda.

Deep Dives

© Wiener Börse

IPO Spotlight

powered by Wiener Börse

Austrian Startup Investment Tracker

Die Finanzierungsrunden 2024

#glaubandich-Challenge 2024

Der größte Startup-Wettbewerb Österreichs mit Top VC-Unterstützung

Podcast: Mit den smartesten Köpfen im Gespräch

Der Podcast von Trending Topics

2 Minuten 2 Millionen | Staffel 11

Die Startups - die Investoren - die Deals - die Hintergründe

The Top 101

Die besten Startups & Scale-ups Österreichs im großen Voting

BOLD Community

Podcast-Gespräche mit den BOLD Minds

IPO Success Stories

Der Weg an die Wiener Börse

Weiterlesen