Nachricht

Jan 16, 2024

KI-Entwickler über die Risiken, Chancen und wie sie Menschen „langweilig“ machen kann

Dieses Video kann nicht abgespielt werden. KI-Boss: Im schlimmsten Fall könnte es es kontrollieren

Dieses Video kann nicht abgespielt werden

KI-Boss: Im schlimmsten Fall könnte es die Menschheit kontrollieren

„Menschen sind ein bisschen langweilig – es wird so sein, auf Wiedersehen!“ Das ist die persönliche Vorhersage – dass künstliche Intelligenz (KI) den Menschen in vielen Rollen ersetzen wird – von einem der wichtigsten Menschen, von dem Sie wahrscheinlich noch nie gehört haben.

Emad Mostaque ist der britische Gründer des Technologieunternehmens Stability AI. Es machte Stable Diffusion populär, ein Tool, das mithilfe von KI Bilder aus einfachen Textanweisungen erstellt, indem es online gefundene Bilder analysiert.

KI ermöglicht es einem Computer, eher wie ein Mensch zu denken oder zu handeln. Dazu gehört das sogenannte maschinelle Lernen, bei dem Computer lernen können, was zu tun ist, ohne dass ein Mensch, der an einer Tastatur sitzt und Befehle eintippt, genaue Anweisungen geben muss. Letzten Monat gab es eine dramatische Warnung von 1.000 Experten, die Entwicklung zu unterbrechen, vor potenziellen Risiken zu warnen und zu sagen, dass der Wettlauf um die Entwicklung von KI-Systemen außer Kontrolle geraten sei.

In einem Interview, das wir am Sonntag in voller Länge zeigen werden, stellt Tech-Gründer Mostaque die Frage, was passieren wird, „wenn wir Agenten haben, die leistungsfähiger sind als wir, die wir nicht kontrollieren können, die über das Internet gehen … und sie einen Grad an Automatisierung erreichen; was passiert dann?“ das heißt?

„Das schlimmste Szenario ist, dass es sich vermehrt und im Grunde genommen die Menschheit kontrolliert.“

Das klingt erschreckend, aber er ist nicht der Einzige, der auf das Risiko hinweist, dass wir einfach nicht sicher sein können, was als nächstes passieren wird, wenn wir Computer entwickeln, die intelligenter sind als wir selbst.

Mostaque glaubt, dass Regierungen durch ein Ereignis, das die Risiken plötzlich real werden lässt, bald zum Handeln verleitet werden könnten. Er verweist auf den Moment, als Tom Hanks sich mit Covid-19 infizierte und Millionen Menschen aufmerksam zusahen.

Wenn ein solcher Moment kommt, werden die Regierungen zu dem Schluss kommen: „Wir brauchen jetzt eine Politik“, sagt der 40-Jährige.

Beispielsweise gab es einen Anstieg der Besorgnis, nachdem eine republikanische Angriffswerbung gegen Jo Biden mit gefälschten computergenerierten Bildern erstellt wurde.

Wenn ein Risiko für Informationen besteht, denen Wähler vertrauen können, müssen Regierungen darauf reagieren, sagt Mostaque.

Trotz seiner Bedenken sagt Mostaque, dass die potenziellen Vorteile der KI für fast jeden Teil unseres Lebens enorm sein könnten. Dennoch räumt er ein, dass die Auswirkungen auf die Arbeitsplätze zumindest zu Beginn schmerzhaft sein könnten.

Mostaque sagt, er glaube, dass KI „größere wirtschaftliche Auswirkungen haben wird als die Pandemie“ und fügt hinzu, dass „es an uns liegt, zu entscheiden, in welche Richtung“ das alles geht.

Einige Arbeitsplätze werden zweifellos verschwinden, wie die Bank Goldman Sachs vermutet hat. Durch die fortschreitende Technologie könnten fast unvorstellbare 300 Millionen Stellen verloren gehen oder verringert werden.

Während niemand durch einen Roboter ersetzt werden möchte, hofft Mostaque, dass bessere Arbeitsplätze geschaffen werden könnten, weil „die Produktivitätssteigerungen sich ausgleichen“ und die Menschen sich auf die Dinge konzentrieren können, die uns zu Menschen machen, und Maschinen den Rest mehr erledigen lassen können. Er stimmt mit dem ehemaligen wissenschaftlichen Chefberater des Vereinigten Königreichs, Sir Patrick Vallance, darin überein, dass der Fortschritt der KI und ihre Auswirkungen noch größer sein könnten als die industrielle Revolution.

Mostaque ist ein bescheidener Mathematiker und Gründer eines Unternehmens, das er erst im Jahr 2020 gegründet hat und das bereits einen Wert von 1 Milliarde US-Dollar hat, und mit weiteren Geldströmen, unter anderem von Hollywood-Star Ashton Kutcher, dürfte es bald noch viel mehr wert sein. Einige Spekulationen gehen von einem Wert von 4 Milliarden US-Dollar aus.

Im Gegensatz zu einigen seiner Konkurrenten ist er fest davon überzeugt, dass seine Technologie Open Source bleiben wird – mit anderen Worten: Jeder kann sich den Code ansehen, ihn teilen und nutzen. Seiner Ansicht nach sollte dies der Öffentlichkeit ein gewisses Maß an Vertrauen in die Geschehnisse geben.

„Ich denke, es sollte kein Vertrauensbedarf bestehen“, sagt er.

„Wenn Sie offene Modelle bauen und dies im Freien tun, sollten Sie kritisiert werden, wenn Sie Dinge falsch machen, und hoffentlich gelobt werden, wenn Sie einige Dinge richtig machen.“

Aber sein Geschäft wirft auch tiefgreifende Fragen über Eigentum und die Realität auf. Die Fotoagentur Getty Images läuft gegen sie und behauptet, dass die Rechte an den von ihr verkauften Bildern verletzt worden seien.

Als Antwort sagt Mostaque: „Was wäre, wenn man einen Roboter hätte, der umherläuft und Dinge betrachtet, muss man dann die Augen schließen, wenn er etwas sieht?“

Das dürfte wohl kaum das Ende dieses Gesprächs sein.

Der Unternehmer ist überzeugt, dass das Ausmaß dessen, was kommt, enorm ist. Er geht davon aus, dass sein Unternehmen und seine Kollegen im Bereich KI, ChatGPT und DeepMind, in zehn Jahren sogar größer sein werden als Google und Facebook. Vorhersagen über die Technologie sind ebenso heikel wie Vorhersagen über die Politik – fundierte Vermutungen, die sich als völlig falsch erweisen könnten. Klar ist jedoch, dass derzeit eine öffentliche Diskussion über die Risiken und Realitäten der KI im Gange ist. Möglicherweise stehen wir an der Schwelle zu weitreichenden Veränderungen, die zu groß sind, als dass ein einzelnes Unternehmen, ein Land oder ein Politiker sie bewältigen könnte.

Mehr als 50 Jahre nach der Patentierung der Dampfmaschine durch James Watt fuhr der erste Dampfzug über die Gleise in Darlington. Dieses Mal werden wir wahrscheinlich nicht annähernd so lange Zeit haben, uns an die neuen Ideen zu gewöhnen, und es wird auch nicht langweilig werden!

Sie können viel mehr von unserem Gespräch mit Emad Mostaque am morgigen Sonntag mit Laura Kuenssberg live auf BBC One oder hier auf iPlayer sehen.

Folgen Sie Laura auf Twitter

Der Ersteller von KI-Bildern steht vor rechtlichen Herausforderungen in Großbritannien und den USA

Fortgeschrittene KI stellt ein Risiko für die Menschheit dar – Technologieführer

KI könnte 300 Millionen Arbeitsplätze beeinträchtigen – Bericht

Elon Musk ernennt Linda Yaccarino zur neuen Twitter-CEO

Google enthüllt KI-Updates, während es mit Microsoft konkurriert