KI News: Kurz und klar.

In den letzten Jahren haben die chinesischen Technologieriesen Alibaba, Tencent und Huawei ihre Forschung auf die Entwicklung von agentischer KI konzentriert – Systeme, die komplexe Aufgaben eigenständig ausführen und mit Software, Daten und Services interagieren können, ohne dass ein Mensch sie Schritt für Schritt anleitet.

Die agentische KI hat im Gesundheitswesen einen entscheidenden Schritt nach vorn gemacht: Sie wechselt von der bloßen Beantwortung von Eingaben zu eigenständiger Durchführung komplexer Marketingaufgaben. Life‑Sciences-Unternehmen setzen ihre kommerziellen Strategien zunehmend auf diese Technologie.

In der Welt der künstlichen Intelligenz gibt es ein neues Werkzeug, das dafür sorgt, dass sensible Tabellendaten nicht ohne Erlaubnis trainiert werden können. Die Methode, die sich UTOPIA nennt, baut auf dem Konzept der „Unlearnable Examples“ (UE) auf, das bisher vor allem im Bereich der Bildverarbeitung eingesetzt wurde. UTOPIA erweitert dieses Prinzip nun erfolgreich auf tabellarische Daten, die in Bereichen wie Finanzen und Gesundheitswesen von großer Bedeutung sind.

Seit Jahren untersucht die Redaktion die Grenzen und Gefahren von KI sowie ihren steigenden Energiebedarf. Unsere Reporter haben zudem genau beobachtet, wie generative Werkzeuge zum Programmieren und für wissenschaftliche Experimente eingesetzt werden.

Eine aktuelle Untersuchung von Forschern aus dem Bereich der künstlichen Intelligenz hat ein überraschendes Ergebnis geliefert: Trotz der bekannten Empfindlichkeit von Large Language Models (LLMs) gegenüber kleinen Prompt‑Veränderungen zeigen sie eine bemerkenswerte Stabilität gegenüber emotionalen Rahmenbedingungen. Das Phänomen, das die Autoren als „Paradox der Robustheit“ bezeichnen, legt nahe, dass die Mechanismen, die LLMs zu sycophantischem Verhalten führen, nicht zwangsläufig ihre Fähigkeit beeinträchtigen, logische Regeln einzuhalten.

Die rasante Verbreitung von KI‑Algorithmen in sicherheitskritischen Bereichen wie autonomem Fahren und Gesundheitswesen wirft ernsthafte Fragen zur Einhaltung strenger Sicherheitsstandards auf. Traditionelle Verfahren der formalen Sicherheitsverifikation stoßen an ihre Grenzen, wenn sie mit der Black‑Box-Natur von KI‑gesteuerten Systemen konfrontiert werden und nicht die nötige Flexibilität besitzen, um die Komplexität realer Anwendungen zu bewältigen.

Im Gesundheitsbereich haben Wissenschaft, gesetzliche Vorgaben, Kooperationen und staatliche Förderungen zusammen ein robustes semantisches Netzwerk geschaffen, das weltweit als Vorreiter gilt. Durch die konsequente Nutzung von Datenstandards und offenen Schnittstellen konnten medizinische Fachinformationen verknüpft und für Forschung, Diagnostik und Patientenversorgung zugänglich gemacht werden.

Beim Einsatz von maschinellen Lernmodellen im Gesundheitswesen ist es entscheidend, dass diese keine bestehenden Vorurteile verstärken. Die neue Studie konzentriert sich auf path-spezifische kausale Fairness, die es ermöglicht, zwischen direkter Diskriminierung – etwa durch einen Arzt oder das Modell selbst – und indirektem Bias, der durch ungleiche Zugänge zum Gesundheitssystem entsteht, zu unterscheiden.

Ein schwerer Cyberangriff hat die belgischen Krankenhäuser erneut in die Knie gezwungen. Durch den Ausfall der Server wurden Operationen abgesagt und kritische Patienten an andere Einrichtungen verlegt.

Die Forschung zur Entwicklung von KI-Systemen, die in der Lage sind, menschliche Emotionen zu erkennen und darauf zu reagieren, hat in den letzten Jahren erhebliche Fortschritte gemacht. Diese Systeme nutzen fortschrittliche Algorithmen des maschinellen Lernens, um Muster in Sprach- und Gesichtsausdrücken zu identifizieren und daraus emotionale Zustände abzuleiten. Durch die Integration von multimodalen Daten, wie Tonfall, Mimik und Gestik, können KI-Modelle ein umfassenderes Bild der emotionalen Lage eines Individuums gewinnen. Die Anwendungen dieser Technologie sind vielfältig und reichen von personalisierten Lernumgebungen bis hin zu unterstützenden Gesundheitsdiensten. In Lernumgebungen kann die KI beispielsweise den Lernfortschritt eines Schülers überwachen und bei Anzeichen von Frustration oder Desinteresse sofort eingreifen, um die Lernmotivation zu steigern. Im Gesundheitsbereich bietet die emotionale KI die Möglichkeit, Patienten mit psychischen Erkrankungen besser zu betreuen, indem sie frühzeitig Anzeichen von Depressionen oder Angstzuständen erkennt und entsprechende Interventionen vorschlägt. Trotz der vielversprechenden Fortschritte stehen die Entwickler vor Herausforderungen wie der Sicherstellung der Privatsphäre, der Vermeidung von Bias in den Modellen und der Gewährleistung einer ethisch verantwortungsvollen Nutzung dieser Technologie. Die kontinuierliche Forschung und die Zusammenarbeit zwischen Technikern, Psychologen und Ethikern sind entscheidend, um die Potenziale der emotionalen KI voll auszuschöpfen und gleichzeitig die Risiken zu minimieren.

Der nächste universelle Technologie-Trend nach dem Smartphone steht kurz vor dem Durchbruch – allerdings nicht so kompakt wie ein Handy. Das Moonshot-Forschungsprogramm, finanziert von der Japan Science and Technology Agency und unterstützt durch NVIDIAs KI- und Robotiktechnologien, arbeitet an einer Welt bis 2050, in der selbstlernende, KI-gesteuerte Roboter im Alltag der Altenpflege eingesetzt werden. Diese Roboter sollen nicht nur Aufgaben übernehmen, sondern sich kontinuierlich an die Bedürfnisse der Menschen anpassen und so die Lebensqualität älterer Menschen nachhaltig verbessern. Durch die Kombination aus fortschrittlicher künstlicher Intelligenz und robotertechnischer Präzision könnte die Technologie die Pflegebranche revolutionieren und die Belastung von Pflegepersonal deutlich reduzieren. Die Entwicklungen zeigen, dass die nächste große Innovation im Gesundheitswesen nicht nur ein technisches Wunder, sondern auch ein gesellschaftlicher Fortschritt sein kann.

Künstliche Intelligenz verändert, wie wir Gesundheit wahrnehmen und damit umgehen. Laut einer aktuellen landesweiten Studie von Confused.com Life Insurance greifen drei von fünf Briten auf KI zurück, um ihre eigenen Gesundheitsprobleme zu diagnostizieren.

Die „What’s Next“-Reihe des MIT Technology Review untersucht Branchen, Trends und Technologien, um einen ersten Blick in die Zukunft zu geben. In der schnelllebigen Welt der künstlichen Intelligenz ist es leicht, Vorhersagen als riskant zu betrachten – doch die Autoren stützen ihre Einschätzungen auf umfangreiche Analysen und Experteninterviews.

Qbtech hat mit Amazon SageMaker AI und AWS Glue einen völlig neuen Ansatz für die ADHS‑Diagnose entwickelt. Durch die Nutzung des vollständig verwalteten Machine‑Learning‑Dienstes SageMaker konnte das Unternehmen den gesamten Workflow – von der Datenvorbereitung bis zur Modellbereitstellung – drastisch vereinfachen. AWS Glue sorgt dabei für eine serverlose, schnelle und kosteneffiziente Datenintegration. Das Ergebnis: Die bisher wochenlange Feature‑Engineering‑Phase schrumpft auf wenige Stunden, ohne dabei die hohen klinischen Qualitätsstandards zu vernachlässigen. Diese Fortschritte markieren einen bedeutenden Schritt in Richtung schnellerer, zuverlässigerer Diagnostik im Gesundheitswesen.

Der neue Open‑Source‑Ansatz Darth Vecdor (DV) wandelt die riesige Wissensbasis großer Sprachmodelle in strukturierte, terminologie‑abgestimmte SQL‑Datenbanken um. Damit entsteht ein sogenannter Wissensgraph, der in vielen Bereichen – etwa im Gesundheitswesen – nutzbar ist.

In der Forschung zum Gesundheitswesen rücken Large‑Language‑Model‑basierte digitale Zwillinge immer stärker in den Fokus. Sie versprechen, komplexe menschliche Verhaltensmuster zu simulieren – doch wie gut gelingt es ihnen, psychologische Nuancen wie Misstrauen gegenüber dem Gesundheitssystem abzubilden?

Generative KI‑Modelle werden zunehmend eingesetzt, um sensible Trainingsdaten durch synthetische Versionen zu ersetzen. Doch neue Forschung zeigt, dass diese „sicheren“ Daten immer noch vertrauliche Informationen preisgeben können. Durch strukturelle Überschneidungen im Datenraum lassen sich reale Trainingsbeispiele aus synthetischen Stichproben rekonstruieren.

In Bereichen wie Robotik, Telekommunikation und Gesundheitswesen stehen KI‑Systeme häufig vor dem Problem knapper Trainingsdaten. Diese Datenknappheit führt zu epistemischer Unsicherheit – einer reduzierbaren Unsicherheit, die aus unvollständigem Wissen über die zugrunde liegende Datenverteilung entsteht und die Vorhersageleistung grundlegend limitiert.

Eine neue Untersuchung des MIT zeigt, dass Strategien zur Einführung von KI die Auswirkungen auf unerwartete Sektoren und Regionen häufig vernachlässigen. Die Studie legt dar, dass die Automatisierung nicht nur Entwickler, sondern auch Fachkräfte in Bereichen wie Kundenservice, Logistik, Fertigung und sogar im Gesundheitswesen betrifft.

Der Nvidia-Chef Jensen Huang hat jüngst klar Stellung genommen: Für ihn gibt es keine KI-Bubble, sondern eine nachhaltige Welle, die die Wirtschaft neu gestaltet.

Ein neues Verfahren zur Anomalieerkennung in multivariaten Zeitreihen wurde vorgestellt. Dabei werden mithilfe eines gleitenden Fensters multivariate Teilsequenzen erzeugt, die anschließend mit einer erweiterten Fuzzy‑Clustering‑Methode analysiert werden. Durch einen Rekonstruktionskriterium werden die Teilsequenzen mit optimalen Clusterzentren und einer Partitionsmatrix wiederhergestellt, wodurch ein Vertrauensindex zur Quantifizierung von Anomalien entsteht.

Ein brandneuer Marktbericht liefert exklusive Einblicke in die rasch wachsende Rolle des AI-Produktmanagements. Die Daten zeigen, dass Unternehmen weltweit verstärkt in KI‑getriebene Produkte investieren und die Nachfrage nach Fachkräften in diesem Bereich exponentiell steigt. Experten betonen, dass die Position des Produktmanagers im KI‑Sektor nicht nur technisches Know‑how, sondern auch strategische Vision erfordert, um komplexe Algorithmen und Nutzererfahrungen erfolgreich zu verbinden.

In der Forschung gewinnt die Kombination aus randomisierten kontrollierten Studien (RCTs) und maschinellem Lernen zunehmend an Bedeutung. Während RCTs seit Jahrzehnten als Goldstandard gelten, um kausale Effekte zu bestimmen, bieten moderne KI‑Modelle die Möglichkeit, komplexe Muster in großen Datensätzen zu erkennen und daraus präzise Vorhersagen abzuleiten.

Federated Learning (FL) ermöglicht es mehreren Organisationen, gemeinsam Modelle zu trainieren, ohne ihre Rohdaten preiszugeben. Während das weit verbreitete horizontale FL gleiche Merkmalsräume nutzt, arbeitet das vertikale FL mit ergänzenden Merkmalen desselben Datensatzes. Doch die klassische vertikale Variante erfordert enorme Kommunikationsaufkommen, was Datenschutz, Sicherheit und Energieverbrauch stark belastet und in manchen Fällen das Training unmöglich macht.