KI-Update kompakt: Multi-Token-Prediction , OpenAI, Air Head, Asteroiden
Das "KI-Update" liefert werktäglich eine Zusammenfassung der wichtigsten KI-Entwicklungen.
- Isabel Grünewald
- The Decoder
Multi-Token-Prediction statt einfacher Wortvorhersage
Wissenschaftler von Meta AI, CERMICS und LISN haben eine neuartige Methode zur Verbesserung von KI-Sprachmodellen entwickelt. Anstatt wie bisher nur das nächste Wort vorherzusagen, lernen die Modelle bei der "Multi-Token-Prediction" mehrere Wörter gleichzeitig vorherzusagen.
Die Forscher zeigten, dass Modelle mit Multi-Token-Prediction bei Programmieraufgaben deutlich besser abschneiden und effizienter ausgeführt werden können als herkömmliche Modelle. Sie führen dies darauf zurück, dass der neue Ansatz auch längerfristige Abhängigkeiten berücksichtigt und so Leistung, Kohärenz und Schlussfolgerungsfähigkeit verbessert.
Die Multi-Token-Prediction reiht sich in aktuelle Bestrebungen bei Meta ein, KI-Modelle mit neuen Ansätzen zu verbessern. Dazu gehört auch die neue JEPA-Architektur von Metas KI-Chef Yann LeCun, die auf die Vorhersage abstrakterer Repräsentationen setzt, die er als entscheidend für eine bessere KI ansieht.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
OpenAI bereitet KI-Sicherheitsinfrastruktur für "fortgeschrittene KI" vor
OpenAI präsentiert sechs zusätzliche Sicherheitsvorkehrungen zum Schutz zukünftiger, leistungsfähiger KI-Systeme vor Cyberattacken. Die online verfügbaren KI-Modelle bergen Angriffspotenzial für Cyberkriminelle, insbesondere die wertvollen Modellgewichte sind gefährdet. Diese numerischen Datensätze verkörpern die Leistungsfähigkeit der Algorithmen und die investierten Ressourcen.
Die vorgeschlagenen Maßnahmen umfassen Trusted Computing für KI-Beschleuniger, verbesserte Netzwerk- und Mandantenisolation, innovative Sicherheitskonzepte für Rechenzentren, KI-spezifische Audit- und Compliance-Programme, den Einsatz von KI zur Cyberabwehr sowie Resilienz und fortlaufende Sicherheitsforschung.
OpenAI arbeitet an der Implementierung und stellt Fördermittel für die KI- und Sicherheits-Community bereit. Die Vorkehrungen könnten bereits auf das nächste, für dieses Jahr angekündigte Sprachmodell GPT-5 abzielen, das einen signifikanten Leistungssprung verspricht. Neben infrastrukturellen Risiken bestehen auch Gefahren auf Anwendungsebene, wie Prompt Injections, wogegen es bisher keinen zuverlässigen Schutz gibt.
Microsoft investiert in Südostasien
Der Technologiekonzern Microsoft plant umfangreiche Investitionen in Malaysia, Indonesien und Thailand, um die digitale Infrastruktur für Cloud-Computing und KI-Dienste auszubauen. CEO Satya Nadella kündigte bei seiner Reise durch die Region Ausgaben in Milliardenhöhe an.
In Malaysia sollen über die nächsten vier Jahre 2,2 Milliarden US-Dollar investiert werden. Dort erhalten 200.000 Menschen eine KI-Schulung. Auch Thailand profitiert von einem neuen Rechenzentrum für geschätzte eine Milliarde Dollar. In Indonesien fließen 1,7 Milliarden Dollar in die Cloud- und KI-Infrastruktur, um das Land bei seinen wirtschaftlichen Ambitionen zu unterstützen. Hier sollen sogar 840.000 Personen im Umgang mit KI geschult werden.
Die großen Tech-Konzerne buhlen um Marktanteile in der sich schnell digitalisierenden Region mit über 650 Millionen Einwohnern. Gleichzeitig wollen sie ihre Abhängigkeit von China reduzieren. Malaysias Nähe zum Finanzplatz Singapur macht es besonders attraktiv für Investoren wie Nvidia, die dort ebenfalls ein KI-Zentrum errichten.
Reichlich menschliche Nachbearbeitung bei Soras "Air Head"
Das von OpenAI präsentierte KI-generierte Video "Air Head" entstand zwar mit Hilfe der Video-KI Sora, bedurfte aber intensiver Nachproduktion durch ein ganzes Team. Patrick Cederburg von der Firma shy kid, zuständig für die Postproduktion, berichtet von Hunderten Videos à 10-20 Sekunden Länge, die in mühsamer Kleinarbeit zusammengesetzt wurden.
Soras Ausgangsmaterial wies zahlreiche Inkonsistenzen auf, so wechselte beispielsweise der Luftballon über dem Kopf der Hauptfigur mehrfach die Farbe und zeigte teils gruselige Gesichter. Die meisten Clips wirkten zudem wie in Zeitlupe aufgenommen. Kameraeinstellungen und -winkel ließen sich nur schwer per Prompt steuern. Tonaufnahmen entstanden komplett ohne KI-Unterstützung.
Trotz der Herausforderungen sieht Cederburg großes Potenzial in Sora und vergleichbaren Tools. Er und sein Team arbeiten bereits an einer Fortsetzung von "Air Head".
X führt neue KI-Nachrichtenfunktion "Stories" ein
X hat eine neue KI-Nachrichtenfunktion namens "Stories" eingeführt. Dabei fasst der hauseigene Chatbot Grok aktuelle Nachrichten und Diskussionen auf der Plattform zusammen – allerdings ausschließlich auf Basis von Nutzerkommentaren, nicht aus den Originalartikel selbst. Laut X-Besitzer Elon Musk analysiert Grok teilweise "Zehntausende X-Posts", um möglichst genaue und aktuelle Informationen zu liefern und die wichtigsten Quellen zu zitieren.
Die ausschließliche Nutzung von Nutzerkommentaren als Quelle birgt jedoch Risiken wie Falschdarstellungen, Dekontextualisierung oder gezielte Manipulation von Nachrichten. Erste Pannen von Grok, wie fehlerhafte Zusammenfassungen bis hin zu komplett erfundenen Meldungen aufgrund von KI-Fehlinterpretationen, hat es bereits gegeben.
Gelänge es X jedoch, Nutzerkommentare ausgewogen zusammenzufassen und gleichzeitig die Originalquellen sichtbar zu machen, könnten "Stories" ein interessantes Alleinstellungsmerkmal im hart umkämpften Nachrichtenmarkt werden. Angesichts der derzeit verfügbaren Technologie und der Erfolgsbilanz von X im KI-Bereich scheint dieses Produkt jedoch in weiter Ferne zu liegen.
Problematisch ist auch, dass X unter der alleinigen Kontrolle von Elon Musk steht, der in den letzten Monaten immer wieder gezeigt hat, dass er gezielt Einfluss auf die Nachrichtenverbreitung bei X nehmen will. Stories wird derzeit für Premium-Nutzer über das Web und iOS eingeführt.
KI-Algorithmus entdeckt Zehntausende Asteroiden
Einem Forschungsteam gelang es, mittels eines KI-Algorithmus namens THOR und der Rechenkapazität der Google Cloud, rund 27.500 bislang unbekannte Asteroiden in Millionen astronomischer Aufnahmen der US-Forschungseinrichtung NOIRLab zu identifizieren. Die meisten dieser Himmelskörper befinden sich im Asteroidengürtel zwischen Mars und Jupiter, über 100 zählen jedoch zu den erdnahen Asteroiden.
Der Algorithmus THOR kommt ohne die sonst üblichen "Tracklets" aus, bei denen derselbe Himmelsbereich innerhalb einer Nacht mehrfach fotografiert wird, um bewegte Objekte zu erkennen. Stattdessen verknüpft er Lichtpunkte aus Aufnahmen, die innerhalb weniger Tage entstanden sind, zu möglichen Asteroidenbahnen. Dieser Ansatz ermöglicht die Durchsuchung existierender Bilddatenbanken und beschleunigt die Suche nach bisher unentdeckten Asteroiden erheblich.
Entwickelt wurde THOR am Asteroid Institute der B612 Foundation, einer Organisation, die sich der Asteroidenabwehr widmet. Die Entdeckung der 27.500 Asteroiden im ersten Quartal 2024 übertrifft die Gesamtzahl der im Vorjahr gefundenen Objekte. Die Kandidaten gelten als sehr wahrscheinlich echt, eine endgültige Bestätigung steht jedoch noch aus.
Sportlehrer wollte Schulleiter mit KI-Stimmklon aus dem Amt mobben
Ein ehemaliger Sportlehrer einer Highschool in Baltimore sieht sich schweren Vorwürfen ausgesetzt. Er soll mithilfe Künstlicher Intelligenz eine täuschend echte Audioaufnahme des Schulleiters Eric Eiswert angefertigt haben, in der sich dieser rassistisch und antisemitisch äußert. Die manipulierte Aufnahme verbreitete der Beschuldigte anschließend in sozialen Netzwerken.
Die Aktion hatte gravierende Folgen für den Schulleiter. Er erhielt zahlreiche Hassbotschaften und musste aufgrund von Sicherheitsbedenken vorübergehend seinen Dienst aussetzen. Experten der Universität von Kalifornien und des FBI bestätigten nach eingehender Untersuchung den Einsatz Künstlicher Intelligenz bei der Erstellung der Audioaufnahme.
Als Motiv für die Tat werden Differenzen zwischen dem Sportlehrer und dem Schulleiter vermutet. Eiswert hatte offenbar beabsichtigt, den Vertrag des Lehrers nicht zu verlängern und eine Untersuchung wegen möglicher Veruntreuung von Schulgeldern eingeleitet. Dem Beschuldigten werden nun diverse Vergehen zur Last gelegt, darunter Vergeltung gegen Zeugen, Belästigung und Diebstahl.
Der Fall macht deutlich, welche Gefahren der Missbrauch von KI-Technologien wie Stimmklonen birgt. Behördenvertreter mahnen zu erhöhter Wachsamkeit im Umgang mit Ton- und Bildmaterial.
(igr)
