Wie weit sind wir von allgemeiner künstlicher Intelligenz entfernt?

Jul 18, 2024 Eine Nachricht hinterlassen

Heute ist die Künstliche Allgemeine Intelligenz (AGI) sowohl in der Wissenschaft als auch in der Industrie zu einem zentralen Schlagwort geworden. Noch vor wenigen Jahren glaubten viele, dass es mindestens 10 bis 50 Jahre dauern würde, bis AGI erreicht wäre, oder hielten es sogar für unmöglich. Heutzutage sind solche pessimistischen Ansichten selten. Im Vergleich zur Begeisterung der Öffentlichkeit über diese Welle des technologischen Wandels glauben jedoch viele führende Wissenschaftler und Branchenführer im KI-Bereich, dass es noch ein langer Weg ist, bis sich die aktuelle KI zu AGI entwickelt.

 

Laut Qi Yuan, einem angesehenen Professor an der Universität Fudan, Direktor des Shanghai Artificial Intelligence Research Institute (SAIRI) und Gründer des Trustworthy Large Model-Unternehmens „Infinite Lightyear“, „ist eine der höchsten Manifestationen von AGI die Entdeckung unbekannter Gesetze in der komplexen Welt. Einfach ausgedrückt sollte es ein ‚KI-Einstein‘ sein. Dies erfordert von uns, vertrauenswürdige ‚Gray-Box‘-Großmodelle zu erstellen, die ‚Black-Box‘-Wahrscheinlichkeitsvorhersagen mit ‚White-Box‘-logischen Schlussfolgerungen kombinieren; und wir müssen durch die tiefe Integration von Technologie und Industrie Grundlagenforschung, Talentförderung und praktische Anwendungen fördern und so ein innovatives Ökosystem für wissenschaftliche Intelligenz aufbauen.“

 

Auf der kürzlich stattgefundenen World Artificial Intelligence Conference (WAIC) 2024 und dem Global Governance of Artificial Intelligence High-Level Meeting war SAIRI erfolgreich Gastgeber eines Themenforums mit dem Titel „Künstliche Intelligenz: Paradigmenwechsel in wissenschaftlicher Forschung und industrieller Entwicklung“. Dies war der erste Auftritt dieser neuen Forschungseinrichtung auf der WAIC. SAIRI kann als Modell für Shanghais Erforschung eines innovationsgetriebenen „1+1+N“-Ökosystems für wissenschaftliche Intelligenz angesehen werden. In diesem Modell fungiert SAIRI als zentraler Knotenpunkt, der für die allgemeine strategische Planung, Ressourcenintegration sowie Forschung und Innovation im Bereich Schlüsseltechnologien verantwortlich ist. In Zusammenarbeit mit einer weiteren „1“-Universität Fudan und mehreren „N“-Universitäten, Forschungseinrichtungen, Technologieunternehmen, Innovationsteams und Investitionsinstitutionen werden gemeinsam wissenschaftliche Forschung, Talentförderung, Technologietransfer sowie industrielle Innovation und Modernisierung gefördert.

 

Der Standard für AGI sollte die Schaffung eines „KI-Einsteins“ sein.

 

Werden aus technischer Sicht immer größere Modelle mit mehr Parametern zu AGI führen? Bisher reichen große Modelle, die auf der autoregressiven Transformer-Architektur basieren, weder aus Sicht der KI-Technologie selbst noch aus Sicht des Energieverbrauchs aus, um zu AGI zu führen. KI muss neue vertrauenswürdige große „Gray-Box“-Modelle entwickeln. Diese Schlussfolgerung basiert auf Qi Yuans jahrelanger praktischer Erfahrung sowohl in der Wissenschaft als auch in der Industrie.

 

Mit der Idee, „KI nützlich zu machen“, führte Qi Yuan vor zehn Jahren ein Team an, das das Kernsystem für maschinelles Lernen von Alibaba erstmals von 2 Millionen Parametern auf mehrere hundert Millionen Parameter erhöhte. Damit wurde eine deutliche Verbesserung der Geschäftsleistung erreicht und die integrierte Transformation von Daten, Algorithmen und technischen Fähigkeiten demonstriert. Dies ist genau die Ausprägung des Skalierungsgesetzes, das heute in der KI-Community breit diskutiert wird.

 

Qi Yuan erinnert sich, dass das Team tatsächlich die Süße des Skalierungsgesetzes gekostet hat: Nachdem die Modellparameter um das Hundertfache erhöht wurden, verbesserte sich der Gesamteffekt dramatisch. „Aber jetzt denke ich: Warum haben wir die KI-Modelle damals nicht noch größer gemacht? Warum haben wir aufgehört, als wir noch einen Schritt weiter hätten gehen können?“, sagte er. „Selbst Milliarden von Parametern in großen Modellen reichen nicht aus; wir müssen uns in Richtung Hunderter von Milliarden, Billionen oder sogar mehr bewegen. Damals fehlte es sowohl der Wissenschaft als auch der Industrie an der Rechenleistung, und selbst im Industriesektor erforderte das Erreichen einer so hohen Rechenleistung sehr hohe Kosten, von der Wissenschaft ganz zu schweigen.“

 

Der Grund, warum der Standard für AGI darin bestehen sollte, einen „KI-Einstein“ zu schaffen, erklärt Qi Yuan, ist, dass er sowohl effektiv als auch intelligent sein muss. Erstens entdeckte Einstein die „Wolken der Physik des frühen 20. Jahrhunderts“ anhand einiger wichtiger Datenpunkte. AGI sollte auch in der Lage sein, die unbekannten Gesetze der komplexen Welt zu entdecken und zu verstehen. Aktuelle große Modelle können dies jedoch nicht erreichen. Obwohl beispielsweise das visuelle Großmodell SORA die physische Welt in einem beispiellosen Ausmaß simuliert, konstruiert es die dreidimensionale Welt immer noch auf der Grundlage der Simulation der zweidimensionalen Welt und ist weit davon entfernt, die physische Welt gründlich zu verstehen. Zweitens gibt es das Problem des Stromverbrauchs. Das menschliche Gehirn arbeitet mit etwa 15 Watt, während eine einzelne GPU Spitzenwerte von mehreren Hundert Watt erreichen kann, ganz zu schweigen von den Clustern von Tausenden oder Zehntausenden von GPUs, die zum Trainieren allgemeiner großer Modelle erforderlich sind. Wenn wir derzeit weiterhin vorhandene Architekturen verwenden, wäre der erforderliche Stromverbrauch astronomisch, was es schwierig macht, das Ziel der Effektivität und Intelligenz zu erreichen.

 

Der „KI-Einstein“ ist auch ein zentrales Ziel von AI for Science (AI4S). Wissenschaftliche Intelligenz hat eine wichtige Rolle bei der Beschleunigung der Lösung bekannter physikalischer Gleichungen gespielt, aber sie muss auch bekannte Regeln mit Daten kombinieren, um die starke Abhängigkeit von Daten und Rechenleistung zu verringern, die Genauigkeit von Argumentation und Vorhersage zu verbessern und neue wissenschaftliche Theorien auf der Grundlage datenangepasster Wissensregeln vorzuschlagen. Dies steht im Einklang mit Qi Yuans langfristigem Ziel an der Fudan-Universität und SAIRI – künstliche Intelligenz zu nutzen, um die komplexe Welt zu verstehen und unbekannte Gesetze zu entdecken.

 

Vertrauenswürdige große vertikale Domänenmodelle der „Gray Box“ unterstützen verschiedene Branchen.

 

Welche Probleme müssen gelöst werden, damit große Modelle aus KI-Tools zu neuen Produktivkräften werden? Laut Qi Yuan steht die Branche der großen Modelle vor vielen gemeinsamen Herausforderungen, was es schwierig macht, Technologie, Produkte und Marktbedürfnisse aufeinander abzustimmen.

 

"Das größte Problem bei der Implementierung großer Modelle heute ist, dass sie auf den ersten Blick nützlich erscheinen, aber in der praktischen Anwendung versagen", erklärt Qi Yuan. Heutige große Sprachmodelle sagen das nächste Wort hauptsächlich auf der Grundlage mehrerer vorangehender Wörter voraus, aber dieser Ansatz ist nicht für strenges mehrstufiges Denken geeignet. "Sprache ist ein Werkzeug zur Kommunikation, nicht zum Denken." Kürzlich veröffentlichte ein von Institutionen wie dem MIT in der führenden akademischen ZeitschriftNaturwies darauf hin, dass Sprache ein mächtiges Werkzeug zur Vermittlung kulturellen Wissens ist und sich möglicherweise zusammen mit unseren Denk- und Urteilsfähigkeiten entwickelt hat, was die Komplexität der menschlichen Wahrnehmung widerspiegelt. Die Sprache erzeugt jedoch nicht die Komplexität des Denkens.

 

Um die Unzuverlässigkeit, die geringe Interpretierbarkeit und die hohen Kosten bestehender großer Modelle zu beheben, besteht eine effektive Lösung darin, probabilistisches neuronales Netzwerk-Argumentieren mit logisch-symbolischer Berechnung zu kombinieren, ähnlich der Kombination aus schnellem, auf Instinkt basierendem Denken und langsamem, auf logischem Denken basierendem Denken, die in dem Buch des Nobelpreisträgers Daniel Kahneman beschrieben wird.Schnelles Denken, langsames Denken. „Das kann man als ‚Gray-Box‘-Großmodell bezeichnen“, glaubt Qi Yuan. Die Kombination symbolischer Berechnungen mit neuronalen Netzwerken in einem vertrauenswürdigen „Gray-Box“-Großmodell kann die „Halluzinationen“ der KI reduzieren und professionelle Probleme in vertikalen Bereichen lösen, wodurch verschiedene Branchen gestärkt und die Produktivität großer Modelle freigesetzt werden.

 

Was ist ein vertrauenswürdiges „Gray Box“-Großmodell? „Ursprünglich wurde Deep Learning als ‚Black Box‘ betrachtet. Durch die Kombination von logischer Argumentation mit Deep Learning haben wir jetzt eine ‚Gray Box‘“, erklärt Qi Yuan. „Die ursprüngliche ‚Black Box‘ ließ die Leute im Unklaren über den Prozess, durch den Daten Ergebnisse hervorbrachten, wohingegen das ‚Gray Box‘-Großmodell, unterstützt durch logische Argumentation, es den Leuten ermöglicht, ‚sowohl die Ergebnisse als auch die Gründe dahinter zu kennen‘. Aus einer anderen Perspektive können ‚Gray Box‘-Großmodelle Deep Learning verwenden, um Regeln zu reduzieren, die nicht mit realen beobachteten Daten übereinstimmen.“

 

Qi Yuan gibt an, dass KI, damit sie in komplexen Szenarien verschiedener Branchen eine zentrale Rolle spielen kann – sei es im Finanz- und Versicherungswesen, in der Windkraft und Energie oder in der Seeschifffahrt und Pharmaindustrie –, systematisches Branchenwissen, logisches Denken und Entscheidungsmechanismen mit großen Modellen kombiniert werden müssen. Das große „Gray-Box“-Modell ist nicht nur die Richtung für AGI, sondern auch ein leistungsstarkes Werkzeug, um tief in vertikale Felder einzudringen und echte Probleme der realen Welt zu lösen. „Aus industrieller Sicht ist dieses Verständnis sehr intuitiv“, veranschaulicht Qi Yuan. Ärzte müssen keine Anwälte werden und Anwälte müssen keine Anlageexperten werden. Jede Berufsrolle sollte sich auf ihr Fachgebiet konzentrieren und ihre Produktivitätswerkzeuge verbessern. Aus technischer Sicht kann ein großes Modell, wenn es irrelevante Aufgaben überlernt, zu „katastrophalem Vergessen“ führen. Wenn Li Bai beispielsweise seine ganze Zeit mit Buchhaltung verbringen würde, anstatt Gedichte zu schreiben, könnte seine poetische Inspiration allmählich nachlassen. „Wir haben bereits beobachtet, dass beim Training großer Modelle für vertikale Domänen das Erlernen zu vieler nicht zusammenhängender Funktionen zu einer Beeinträchtigung der ursprünglichen Fähigkeiten des Modells führen kann. Daher ist die Entwicklung effektiver ‚Gray-Box‘-Großmodelle für vertikale Domänen bei der industriellen Umsetzung von großem Wert.“

 

„Ich glaube, dass ‚Gray-Box‘-Großmodelle auf dem Weg zur AGI und bei der Implementierung vertikaler Domänenindustrien eine immer wichtigere Rolle spielen werden. Aus einer bayesianischen methodologischen Perspektive kombiniert es unser bekanntes Wissen mit verborgenen Informationen in den Daten, um neue Gesetze zu entdecken und wissenschaftliche und industrielle Probleme zu lösen“, erklärt Qi Yuan. In Zukunft könnte „KI Einstein“ auch „KI Buffett“ sein.

Verknüpfung der Innovationskette und Aufbau eines Innovationsökosystems im Bereich wissenschaftliche Intelligenz.

 

Auf der diesjährigen World Artificial Intelligence Conference stellte das Team von Qi Yuan zuverlässige große Finanz- und Medizinmodelle mit Hunderten von Milliarden Parametern vor. Diese vertikalen Domänenmodelle übertrafen beim Testen OpenAIs Billionen-Parameter-Modell GPT-4 Turbo und lenkten damit erneut die Aufmerksamkeit der Branche auf die Implementierung großer Modelle.

 

„Die heutigen Durchbrüche in der KI werden nicht nur durch Innovationen bei den zugrunde liegenden Prinzipien vorangetrieben, sondern auch durch produktorientierte Ansätze, die gesellschaftliche Bedürfnisse ansprechen. Die Gesellschaft verlangt nicht nur die Veröffentlichung theoretischer Arbeiten oder Geschäftsmodellinnovationen, sondern auch die tiefe Integration technologischer und industrieller Innovationen auf der Grundlage grundlegender Prinzipien. Wenn diese beiden Elemente erst einmal kombiniert sind, können wir tiefere Gewässer erreichen“, sagt Qi Yuan.

 

Die Aufgaben von Wissenschaft und Industrie sind unterschiedlich. Die Wissenschaft erforscht neue Phänomene, während die Industrie vor allem praktische Probleme löst. Ein weltweites Problem ist, dass Forschungseinrichtungen viele technologische Innovationsprobleme angehen müssen. Wenn sie dabei jedoch die Produktisierung und die gesellschaftlichen Bedürfnisse außer Acht lassen, sind sie mit zwei Defiziten konfrontiert: einem Mangel an echtem Wettbewerbsdruck, der die Weiterentwicklung innovativer Technologien behindert, und dem Fehlen wirksamer Marktrückmeldungen als Orientierung für die technologische Forschung.

 

Zu diesem Zweck versucht Qi Yuan schon lange, die Innovationskette „Universitäten-Forschungsinstitute-Startups“ zu verbinden, um ein gutes Innovationsökosystem zu schaffen, das sowohl die zugrunde liegende Technologie als auch die Marktbedürfnisse berücksichtigt. Die Produktausrichtung sollte sich an der Marktnachfrage und den Marktszenarien orientieren und die Kernwettbewerbsfähigkeit des Produkts durch grundlegende Innovationen aufbauen.

 

SAIRI wurde 2023 gegründet und widmet sich originellen Innovationen im Bereich der künstlichen Intelligenz für die Wissenschaft, die Wissen und Daten kombinieren. Vor Kurzem hat SAIRI die Fuxi-Serie meteorologischer Großmodelle 2.0 für Anwendungen in den Bereichen neue Energie, Versicherung und Stadtmanagement auf den Markt gebracht und die Smart Meteorological Innovation Ecosystem Alliance ins Leben gerufen. Ziel dieser Allianz ist es, die industrielle Anwendung der meteorologischen Großmodelle 2.0 der Fuxi-Serie schrittweise voranzutreiben. Auch die vertrauenswürdigen „Gray Box“-Großmodelle machen Fortschritte bei der Produktimplementierung. Infinite Lightyear, das von Qi Yuan gegründete Unternehmen für vertrauenswürdige Großmodelle, ist bereits etabliert.

 

Um das Innovationsökosystem für wissenschaftliche Intelligenz weiter zu fördern, wurde der zweite World Scientific Intelligence Competition ins Leben gerufen, der gemeinsam von SAIRI und der Universität Fudan organisiert und von mehreren Abteilungen geleitet wird, darunter dem Shanghai Science and Technology Committee, der Shanghai Development and Reform Commission, dem Shanghai Economic and Information Technology Committee und dem Shanghai Education Committee. Der Wettbewerb bietet Millionenpreise, um Teilnehmer aus aller Welt zu gewinnen, die Grenzbereiche der wissenschaftlichen Intelligenz erkunden. Darüber hinaus hat SAIRI eine wissenschaftliche Datenplattform entwickelt, die multimodale wissenschaftliche Daten abdeckt und die gesamte Kette von der Datenerfassung und -verarbeitung bis hin zur Verwaltung und Modellierung unterstützt und so eine effiziente Datenverarbeitung, Vertrauenswürdigkeit und sichere Kommunikation gewährleistet. Basierend auf dieser Plattform haben SAIRI und seine Partner mehrere hochwertige wissenschaftliche Datensätze für Biowissenschaften, Materialwissenschaften, Atmosphärenwissenschaften und andere Bereiche erstellt und so wertvolle Ressourcen für die wissenschaftliche Intelligenzforschung bereitgestellt. Darüber hinaus hat SAIRI die Global Scientific Data Ecosystem Alliance ins Leben gerufen, zu deren ersten Mitgliedern China Telecom Corporation, COSCO Shipping Insurance Captive, Shanghai Lingang New Area Cross-Border Data Technology und mehr als zehn weitere Unternehmen gehören. Ziel der Allianz ist es, durch die Zusammenarbeit zwischen Regierung, Unternehmen, Universitäten und Forschungseinrichtungen eine offene und gemeinsam nutzbare Plattform für globale, domänenübergreifende Big Data-Forschungsressourcen aufzubauen.

 

„Ob in der wissenschaftlichen Forschung oder in der Industrie, wir sollten nicht um der Innovation willen innovativ sein. Wir hoffen, zukünftige AGI und Anwendungen zu entwickeln, die reale Probleme lösen“, sagt Qi Yuan.

Anfrage senden

whatsapp

Telefon

E-Mail

Anfrage