KI News: Kurz und klar.

Britisches Kommunikationsregulierungsamt Ofcom hat offiziell angekündigt, X wegen möglicher Verstöße gegen das Online Safety Act zu untersuchen. Der Grund: Groks „Nudify“-Button bleibt dauerhaft aktiviert, was Bedenken hinsichtlich der Sicherheit von Nutzern aufwirft.

Die Regierungen von Malaysia und Indonesien haben die Nutzung der Social‑Media-Plattform X in beiden Ländern sofort gesperrt. Der Schritt wurde ergriffen, weil X es Nutzern ermöglicht, ohne deren Zustimmung sexuelle Bilder und Videos zu erstellen und zu verbreiten.

In den letzten Jahren hat die US-Einwanderungsbehörde ICE ein Milliardenbudget für Überwachungstechnologie aufgewendet, was sie zu einem der umstrittensten Akteure im Bereich der staatlichen Überwachung macht.

Nach Fragen von Ministern und Regulierungsbehörden hat das Unternehmen Grok seine Bildgenerierungsfunktion auf der Plattform X für die meisten Nutzer gesperrt. Die Maßnahme folgt auf die öffentliche Erwägung einer Beschränkung durch die britische Regierung, die die KI-Funktion, die Personen auf Befehl entblößt, als problematisch einstuft.

In den letzten Wochen haben zwei einflussreiche Essays die Debatte um Künstliche Intelligenz neu entfacht. Beide Autoren greifen die wachsende Besorgnis auf, dass KI nicht nur technologische Fortschritte bringt, sondern auch gesellschaftliche Spannungen und neue Formen der Informationskriegsführung auslösen könnte.

Europa setzt vermehrt auf eigene Cloud‑Lösungen, um die Abhängigkeit von US‑Anbietern zu reduzieren. In den letzten Monaten haben zahlreiche öffentliche Einrichtungen ihre Daten und Anwendungen in europäische Rechenzentren verlagert, während die großen US‑Hyperscaler – Amazon, Microsoft und Google – ihre eigenen souveränen Angebote betonen.

Die rasante Entwicklung von Deepfake‑Technologien, die von künstlicher Intelligenz angetrieben werden, hat weltweit Besorgnis ausgelöst. Falsche Informationen, Identitätsdiebstahl und das Vertrauen in Online‑Inhalte leiden unter dieser neuen Bedrohung. Traditionelle technologische Lösungen reichen nicht aus, um die tieferliegenden moralischen Ursachen – Absicht, Ethik und gesellschaftliche Auswirkungen – zu adressieren.

Der Autor hat seine Erwartungen für das Jahr 2025 formuliert und berichtet, dass die Entwicklungen weitgehend seinen Vorhersagen entsprochen haben. Die Fortschritte in generativen Modellen, die Integration in verschiedenste Branchen und die zunehmende Diskussion um ethische Standards haben die KI-Landschaft nachhaltig geprägt.

In der neuesten Folge von Uncanny Valley werfen wir einen Blick auf fünf zentrale Geschichten, die das Jahr 2025 geprägt haben. Von der rasanten Weiterentwicklung generativer KI über die anhaltende Volatilität von Kryptowährungen wie DOGE bis hin zu politischen Debatten über Datenschutz und KI‑Ethik – diese Themen haben die Tech‑ und Politiklandschaft nachhaltig beeinflusst.

OpenAI hat den ehemaligen britischen Finanzminister George Osborne eingestellt und damit die Liste der hochrangigen Politiker, die sich in den USA bei Tech-Giganten niedergelassen haben, weiter verlängert. Osborne, der von 2010 bis 2015 als Finanzminister diente, tritt nun in ein Unternehmen ein, das sich auf künstliche Intelligenz spezialisiert hat und weltweit für seine bahnbrechenden Entwicklungen bekannt ist.

Die dänische Regierung plant ein neues Gesetz, das die Nutzung von VPNs zum Zugriff auf bestimmte Internetbereiche beschränken soll. Ziel ist es, die Online-Piraterie einzudämmen und gleichzeitig die Kontrolle über digitale Inhalte zu stärken.

In einer Zeit, in der künstliche Intelligenz rasant voranschreitet, ist es ungewöhnlich, noch immer als „KI‑Doomer“ bezeichnet zu werden. Diese kleine, aber einflussreiche Gruppe aus Forschern, Wissenschaftlern und Politikexperten sieht die Möglichkeit, dass KI so leistungsfähig werden könnte, dass sie erhebliche Risiken für die Menschheit birgt.

In den letzten Monaten haben Forscher neue Methoden entdeckt, mit denen große Sprachmodelle (LLMs) manipuliert werden können. Diese Modelle arbeiten auf Basis statistischer Korrelationen und sind daher anfällig für gezielte Eingriffe, die ihre Antworten verfälschen.

Die europäische Cloud-Branche hat die Entscheidung der Europäischen Kommission, den Zusammenschluss von VMware und Broadcom zu genehmigen, scharf kritisiert. Das Zusammenschlussverband argumentiert, dass der Genehmigungsprozess mangelhaft war und die Aufsichtsbehörden besser informiert gewesen sein müssten. Nach Ansicht der Gruppe würde die Fusion es dem Infrastruktur- und Halbleiterunternehmen ermöglichen, die Preise für Kunden massiv zu erhöhen. Die Kritik unterstreicht die Notwendigkeit einer gründlicheren Prüfung von Großfusionen, die die Wettbewerbslandschaft in der Cloud-Branche nachhaltig verändern könnten.

„The State of AI“ ist eine neue Kooperation zwischen der Financial Times und der MIT Technology Review, die seit Jahresbeginn wöchentlich Einblicke in die rasante Entwicklung von generativer KI bietet.

Im Januar 2024 klingelte in vielen Haushalten in New Hampshire ein Telefon, das von einer Stimme zu kommen schien, die eindeutig Joe Biden ähnelte. Die Botschaft war klar: „Sparen Sie Ihre Stimme“, indem man die Vorwahl überspringt. Obwohl die Worte authentisch klangen, war die Anrufquelle ein KI‑generierter Deep‑Fake.

Das Future of Life Institute hat kürzlich acht führende KI‑Labore mit Buchstabenwerten bewertet, um ihre Sicherheitsbemühungen zu messen. Die Bewertung soll zeigen, wie gut die Forschungsgemeinschaft die Risiken von künstlicher Intelligenz erkennt und adressiert.

Die rasante Entwicklung, Einführung und Nutzung von KI-Systemen wird zunehmend von großen Technologieunternehmen vorangetrieben. Diese Dominanz hat nicht nur die Geschwindigkeit des Fortschritts beschleunigt, sondern auch neue ethische Bedenken und weitreichende gesellschaftliche sowie ökologische Auswirkungen ausgelöst.

Nordamerikanische Unternehmen setzen agentische KI-Systeme ein, die eigenständig denken, anpassen und handeln können. Diese Systeme ermöglichen es, komplexe Aufgaben ohne menschliche Eingriffe zu bewältigen und eröffnen neue Möglichkeiten für Effizienz und Innovation.

Die Art und Weise, wie wir über künstliche Intelligenz sprechen, prägt unsere Wahrnehmung und Erwartungen. Wenn wir KI als „halluzinierend“ bezeichnen, vermitteln wir ein Bild von unzuverlässiger, willkürlicher Kreativität, das nicht der Realität entspricht.

In der aktuellen Debatte um künstliche Intelligenz wird die Frage gestellt, ob die zunehmende Fragmentierung von KI‑Systemen – oft als „AI‑Balkanisierung“ bezeichnet – tatsächlich quantifizierbar ist. Experten betonen, dass die Messbarkeit von AI‑Balkanisierung von mehreren Faktoren abhängt, darunter die Verteilung von Trainingsdaten, die Vielfalt der eingesetzten Algorithmen und die Transparenz der Modellarchitekturen.

Neue Studien belegen, dass selbst unkomplizierte Preisalgorithmen zu höheren Kosten führen können. Durch die Anwendung spieltheoretischer Prinzipien können Unternehmen Preise dynamisch anpassen, was letztlich den Endverbraucher belastet. Diese Erkenntnisse unterstreichen die Notwendigkeit, Algorithmen transparenter zu gestalten und regulatorische Rahmenbedingungen zu prüfen.

Ein neues Tool namens RECAP ermöglicht es, aus großen Sprachmodellen gezielt gespeichertes, urheberrechtlich geschütztes Material zu extrahieren. Durch geschickte Techniken kann die Agentur Inhalte aus dem Gedächtnis der Modelle herausfiltern, ohne die üblichen Sicherheitsmechanismen zu umgehen. Diese Fortschritte könnten regulatorische Bedenken mildern und gleichzeitig Klarheit über mögliche Urheberrechtsverletzungen bei der KI-Entwicklung schaffen.

In einer aktuellen Anhörung des US-Repräsentantenhauses wurde deutlich, dass Hersteller großer Sprachmodelle (LLMs) die Unterhaltungen ihrer Nutzer ohne ausreichende Datenschutzmaßnahmen für weiteres Training und kommerzielle Zwecke ausnutzen könnten.