Finde Modelle, Firmen und Themen

Der Countdown läuft: Heute ist die letzte Gelegenheit, Ihre Forschungspapiere für die CAIS Peer Review im Rahmen der AIE Europe und der AIE…

In einer aktuellen Studie auf arXiv wird untersucht, wie heterogene Agenten ihre eigene Zuverlässigkeit schätzen und gezielt abstimmen oder…

Die Bedrohungslage im Cyberraum wird immer komplexer, sodass klassische Verteidigungsmechanismen und manuelle Red‑Team‑Ansätze nicht mehr a…

Die Intelligence Advanced Research Projects Activity (IARPA) hat mit dem TrojAI‑Programm ein mehrjähriges Forschungsprojekt gestartet, das…

In der kommerziellen Versicherungsbranche ist die Risikobewertung und Preisgestaltung von Policen ein arbeitsintensiver Prozess, der umfang…

Meta und mehrere andere Technologieunternehmen haben heute die Nutzung des AI‑Tools OpenClaw sofort verboten. Das Unternehmen begründet die…

In einem wegweisenden Beitrag zur KI‑Sicherheit präsentiert ein neues Forschungsprojekt ein umfassendes Benchmarking-Tool, das die moralisc…

Die Erkennung von Texten, die von großen Sprachmodellen (LLMs) generiert wurden, ist ein zentrales Thema in der KI‑Sicherheit. Traditionell…

In einer Zeit, in der KI‑Systeme immer leistungsfähiger werden und in komplexen Mehragenten‑Umgebungen eingesetzt werden, fehlt bislang ein…

Model‑Diffing, also der Vergleich interner Repräsentationen von Sprachmodellen, gilt als vielversprechende Methode, um sicherheitskritische…

Mit der zunehmenden Autonomie von KI‑Systemen wird die Gewährleistung ihrer Sicherheit nicht mehr ausschließlich durch die Optimierung der…

Mit nur einem einzigen Prompt konnte Microsoft die Sicherheitsgrenzen seiner populären KI‑Modelle umgehen. Das Ergebnis ist nicht nur techn…

Moderne große Sprachmodelle (LLMs) erzeugen Texte, indem sie die Wahrscheinlichkeit des nächsten Tokens vorhersagen. Diese Vorgehensweise f…

Immer mehr Menschen greifen auf generative KI‑Chatbots zu, um psychologische Unterstützung zu erhalten. Doch die zentrale Frage bleibt: Sin…

Eine neue Untersuchung, die auf arXiv veröffentlicht wurde, zeigt, dass selbst hochqualifizierte Psychiater bei der Bewertung von KI-generi…

Die Nutzung von Künstlicher Intelligenz in Unternehmen hat sich von isolierten Prototypen zu vollwertigen Entscheidungssystemen entwickelt…

Die Sicherheit großer Sprachmodelle hängt zunehmend von der Fähigkeit ab, gezielt Wissen zu löschen – ein Prozess, der als Machine Unlearni…

Die rasante Verbreitung von KI‑Algorithmen in sicherheitskritischen Bereichen wie autonomem Fahren und Gesundheitswesen wirft ernsthafte Fr…

In einer überraschenden Entdeckung haben Forscher eine neue Methode zur Beeinflussung von KI‑Systemen vorgestellt, die als „Giftbrunnen“ be…

Generative KI‑Modelle übernehmen die Vorurteile ihrer Trainingsdaten und können diese durch Modenkollaps noch verstärken. Das Ergebnis ist…

Generative KI hat die Art und Weise, wie Inhalte erstellt werden, revolutioniert – gleichzeitig hat sie aber auch die Tür zu realistischen…

In einer Zeit, in der künstliche Intelligenz rasant voranschreitet, ist es ungewöhnlich, noch immer als „KI‑Doomer“ bezeichnet zu werden. D…

Ein neues arXiv‑Papier beleuchtet die inhärenten Beschränkungen der Robustheit von KI‑Sicherheit und -Ausrichtung. Die Autoren erweitern Gö…

Hack The Box hat die HTB AI Range vorgestellt, eine innovative Plattform, die Unternehmen ermöglicht, autonome KI‑Sicherheitsagenten in rea…

Eine neue Studie liefert wichtige Erkenntnisse darüber, warum manche Prompt‑Injection-Angriffe erfolgreich sind. Forscher aus dem Institut…

Eine neue Studie aus dem arXiv-Repository zeigt, dass große Sprachmodelle, die in produktiven Reinforcement‑Learning‑Umgebungen Belohnungs‑…

Ein brandneues Preprint auf arXiv (2511.19115v1) beleuchtet die wachsende Debatte um das Existenzrisiko von KI und die damit verbundene Fra…

OpenAI hat bekannt gegeben, dass einer seiner führenden Forschungsleiter, der maßgeblich an der Entwicklung von Sicherheitsmaßnahmen für Ch…

Eine neue Studie auf arXiv (2511.16823v1) präsentiert MOCET, eine innovative Metrik zur Bewertung von realen Risiken, die von großen Sprach…

In der KI‑Sicherheit gibt es ein neues Problem: sogenannte „Sleeper‑Agents“ – Backdoors, die in großen Sprachmodellen (LLMs) versteckt blei…