Suche nach Sicherheitsbewertung

KI für Landwirtschaft: Feinabgestimmtes Modell liefert präzise, sichere Beratung

In einer wegweisenden Studie zeigen Forscher, dass große Sprachmodelle (LLMs) das Potenzial besitzen, Landwirte mit maßgeschneiderter Berat…

arXiv – cs.AI 05.03.2026 05:00

Forschung

MUSE: Plattform für multimodale Sicherheitsbewertung großer Sprachmodelle

Die Sicherheit von großen Sprachmodellen (LLMs) wird bislang überwiegend in Textform geprüft, während multimodale Eingaben wie Audio, Bild…

arXiv – cs.LG 04.03.2026 05:00

Forschung

RewardUQ: Einheitlicher Rahmen zur Unsicherheitsbewertung von Belohnungsmodellen

In der Welt der großen Sprachmodelle (LLMs) sind Belohnungsmodelle entscheidend, um die Systeme an menschliche Präferenzen anzupassen. Doch…

arXiv – cs.LG 02.03.2026 05:00

Forschung

CourtGuard: Modellagnostisches System für Zero-Shot-Policy‑Anpassung in LLM‑Sicherheit

Ein neues Framework namens CourtGuard wurde vorgestellt, das die Sicherheit von großen Sprachmodellen (LLMs) ohne Modell‑Retraining verbess…

arXiv – cs.AI 27.02.2026 05:00

Forschung

Automatisiertes Red Teaming: Systematischer Überblick zur KI‑Sicherheit

Die Bedrohungslage im Cyberraum wird immer komplexer, sodass klassische Verteidigungsmechanismen und manuelle Red‑Team‑Ansätze nicht mehr a…

arXiv – cs.AI 26.02.2026 05:00

Forschung

Warnung: Textsicherheit reicht nicht für sichere Tool‑Aufrufe in LLM‑Agenten

Eine neue Studie, die auf arXiv veröffentlicht wurde, liefert einen alarmierenden Weckruf für Entwickler von Sprachagenten: Die Sicherheit…

arXiv – cs.AI 20.02.2026 05:00

Forschung

NAAMSE: Evolutionäres Framework zur Sicherheitsbewertung von KI-Agenten

KI‑Agenten werden immer häufiger in produktiven Systemen eingesetzt, doch ihre Sicherheitsprüfung bleibt ein Engpass. Traditionelle Methode…

arXiv – cs.AI 10.02.2026 05:00

Forschung

VERA‑MH: Zuverlässige KI‑Sicherheitsbewertung für psychologische Chatbots

Immer mehr Menschen greifen auf generative KI‑Chatbots zu, um psychologische Unterstützung zu erhalten. Doch die zentrale Frage bleibt: Sin…

arXiv – cs.AI 06.02.2026 05:00

Forschung

Reversibler Deep Learning-Ansatz für 13C‑NMR: Struktur & Spektrum vereint

Ein neues arXiv‑Paper (2602.03875v1) präsentiert einen reversiblen Deep‑Learning‑Ansatz, der die Vorhersage von 13C‑NMR‑Spektren und die Re…

arXiv – cs.AI 05.02.2026 05:00

Forschung

Neue Methode schätzt Adversarial‑Risiko von LLMs bei Best‑of‑N Sampling

Wissenschaftler haben eine neue Technik entwickelt, die das wahre Risiko von großen Sprachmodellen (LLMs) unter realen Angriffsbedingungen…

arXiv – cs.AI 02.02.2026 05:00

Praxis

KI‑Scanner priorisiert CVE‑Schwachstellen neu – mehr als CVSS‑Score

In einem praxisnahen Tutorial wird gezeigt, wie ein KI‑unterstützter Schwachstellenscanner entwickelt wird, der weit über die statische Bew…

MarkTechPost 24.01.2026 05:43

Forschung

Sicherheitsbericht enthüllt: GPT‑5.2 dominiert, andere Modelle schwanken

In einem brandaktuellen Sicherheitsbericht wurden sieben der fortschrittlichsten Sprach- und Multimodalmodelle – GPT‑5.2, Gemini 3 Pro, Qwe…

arXiv – cs.AI 16.01.2026 05:00

Praxis

<h1>Mehrstufiges Crescendo-Red-Teaming mit Garak zur LLM-Sicherheitsbewertung</h1> <p>In einem praxisnahen Tutorial wird gezeigt, wie man mit Garak eine mehrstufige Red‑Teaming‑Pipeline entwickelt, die große Sprachmodelle (LLMs) unter zunehmendem Gesprächsdruck testet. Dabei wird ein iteratives Probe‑Tool eingesetzt, das zunächst harmlose Anfragen stellt und diese allmählich zu sensiblen Themen eskaliert. Ein leichtgewichtiger Erkennungsmechanismus bewertet die Modellantworten in Echtzeit und prüft, ob das

MarkTechPost 13.01.2026 14:12

Forschung

WebTrap Park: Automatisierte Plattform für Web-Agenten-Sicherheitsbewertung

Web-Agenten übernehmen zunehmend komplexe Aufgaben in echten Webumgebungen, doch ihre Sicherheitsbewertung bleibt bislang fragmentiert und…

arXiv – cs.AI 14.01.2026 05:00

Forschung

Agent Mallard: KI-gestützte Luftverkehrskontrolle mit sicherer, erklärbarer Planung

Die steigende Nachfrage im Luftverkehr zwingt die Branche dazu, vermehrt Automatisierung einzusetzen, um Fluglotsen zu entlasten. Dabei bes…

arXiv – cs.AI 09.01.2026 05:00

Forschung

LLM‑Sicherheit: Zufällige Seeds und Temperatur zeigen Inkonsistenzen

Eine neue Studie von Forschern auf arXiv hat die Annahme in Frage gestellt, dass die Sicherheitsentscheidungen großer Sprachmodelle (LLMs)…

arXiv – cs.LG 16.12.2025 05:00

Forschung

AI-Transparenzatlas: Neues Bewertungssystem für KI-Modelle

Die Dokumentation von KI-Modellen ist bislang über verschiedene Plattformen verstreut und strukturell uneinheitlich. Das erschwert es Polit…

arXiv – cs.AI 16.12.2025 05:00

Forschung

LLM‑Sicherheit: Kontextabhängige Risiken bei Finanz‑ und Gesundheitsratgebern

Eine neue Studie aus dem arXiv‑Repository beleuchtet, wie große Sprachmodelle (LLMs) bei der Beratung zu Finanz- und Gesundheitsfragen die…

arXiv – cs.AI 12.12.2025 05:00

Forschung

UACER: Ensemble-Ansatz steigert Robustheit im adversarialen Reinforcement Learning

Robustes adversariales Reinforcement Learning gewinnt zunehmend an Bedeutung, wenn Agenten in realen Umgebungen mit unsicheren Störungen um…

arXiv – cs.LG 12.12.2025 05:00

Forschung

Neues BBG-Framework bewertet Bio‑Risiken von KI-Modellen

Entwickler von KI-Systemen und Entscheidungsträger aus dem Sicherheitsbereich haben ein neues Werkzeug vorgestellt, das die Gefahr von Biow…

arXiv – cs.LG 10.12.2025 05:00

Forschung

SafeRBench: Neuer Benchmark für Sicherheit von großen Rechenmodellen

Große Rechenmodelle (LRMs) nutzen explizite Gedankenketten, um Antworten zu verbessern. Diese Fähigkeit birgt jedoch neue Gefahren: schädli…

arXiv – cs.AI 20.11.2025 05:00

Forschung

N-GLARE: Effizienter, nicht-generativer LLM‑Sicherheitsprüfer

Die Sicherheit von großen Sprachmodellen (LLMs) ist entscheidend für deren Einsatz. Traditionelle Red‑Team‑Methoden beruhen auf Online‑Gene…

arXiv – cs.LG 19.11.2025 05:00

Forschung

Selbstüberwachtes Training stärkt semantische Robustheit von Guard-Modellen

Guard‑Modelle sind ein entscheidender Baustein für die Sicherheit von großen Sprachmodellen, doch ihre Empfindlichkeit gegenüber oberflächl…

arXiv – cs.AI 17.11.2025 05:00

Forschung

Neues neuronales Netzwerk: uGMM‑NN integriert probabilistische Logik in Neuronen

Ein neues Forschungsprojekt aus dem Bereich der künstlichen Intelligenz hat ein innovatives neuronales Netzwerk vorgestellt, das probabilis…

arXiv – cs.LG 10.09.2025 05:00

Forschung

KI verbessert CRISPR-gRNA-Design: Erklärbare Modelle erhöhen Sicherheit

CRISPR-basierte Genom-Editierung hat die Biotechnologie revolutioniert, doch die Optimierung von Guide‑RNA‑Designs (gRNA) für maximale Effi…

arXiv – cs.AI 29.08.2025 05:00

Forschung

LLMs: Wie Überzeugungskraft und Vorurteile sich gegenseitig verstärken

Moderne Sprachmodelle erzeugen inzwischen Texte, die so überzeugend und menschlich wirken, dass sie in der Content‑Erstellung, Entscheidung…

arXiv – cs.AI 25.08.2025 05:00

Forschung

<p>PAC‑Lernen liefert probabilistische Sicherheitsbewertung für Mealy‑Maschinen</p> <p>Ein neues Verfahren aus dem Bereich der Cyber‑Physical Systems (CPS) nutzt Daten, um die Sicherheit von Systemen, die als Mealy‑Maschine modelliert sind, auf einer endlichen Zeithorizont von n Schritten zu bestimmen. Dabei wird das Probably Approximately Correct (PAC) Lernparadigma angewandt, sodass die berechnete Sicherheitswahrscheinlichkeit mit einer klaren statistischen Konfidenz versehen wird.</p> <p>Der Ansatz kombi

arXiv – cs.AI 21.08.2025 05:00

Forschung

DE-VAE: Unsicherheit in parametrischen und inversen Projektionen mit VAEs

Autoencoder erfreuen sich zunehmender Beliebtheit, wenn es darum geht, mehrdimensionale Daten in kompakte, parametrisierte und invertierbar…

arXiv – cs.LG 19.08.2025 05:00

Forschung

Entropisches Potential von Ereignissen: Neue KI-Unsicherheitsmethode

Eine neue Studie aus dem arXiv-Repository präsentiert ein innovatives Konzept, das die Unsicherheitsbewertung in künstlicher Intelligenz (K…

arXiv – cs.AI 15.08.2025 05:00

Finde Modelle, Firmen und Themen

KI für Landwirtschaft: Feinabgestimmtes Modell liefert präzise, sichere Beratung

MUSE: Plattform für multimodale Sicherheitsbewertung großer Sprachmodelle

RewardUQ: Einheitlicher Rahmen zur Unsicherheitsbewertung von Belohnungsmodellen

CourtGuard: Modellagnostisches System für Zero-Shot-Policy‑Anpassung in LLM‑Sicherheit

Automatisiertes Red Teaming: Systematischer Überblick zur KI‑Sicherheit

Warnung: Textsicherheit reicht nicht für sichere Tool‑Aufrufe in LLM‑Agenten

NAAMSE: Evolutionäres Framework zur Sicherheitsbewertung von KI-Agenten

VERA‑MH: Zuverlässige KI‑Sicherheitsbewertung für psychologische Chatbots

Reversibler Deep Learning-Ansatz für 13C‑NMR: Struktur & Spektrum vereint

Neue Methode schätzt Adversarial‑Risiko von LLMs bei Best‑of‑N Sampling

KI‑Scanner priorisiert CVE‑Schwachstellen neu – mehr als CVSS‑Score

Sicherheitsbericht enthüllt: GPT‑5.2 dominiert, andere Modelle schwanken

WebTrap Park: Automatisierte Plattform für Web-Agenten-Sicherheitsbewertung

Agent Mallard: KI-gestützte Luftverkehrskontrolle mit sicherer, erklärbarer Planung

LLM‑Sicherheit: Zufällige Seeds und Temperatur zeigen Inkonsistenzen

AI-Transparenzatlas: Neues Bewertungssystem für KI-Modelle

LLM‑Sicherheit: Kontextabhängige Risiken bei Finanz‑ und Gesundheitsratgebern

UACER: Ensemble-Ansatz steigert Robustheit im adversarialen Reinforcement Learning

Neues BBG-Framework bewertet Bio‑Risiken von KI-Modellen

SafeRBench: Neuer Benchmark für Sicherheit von großen Rechenmodellen

N-GLARE: Effizienter, nicht-generativer LLM‑Sicherheitsprüfer

Selbstüberwachtes Training stärkt semantische Robustheit von Guard-Modellen

Neues neuronales Netzwerk: uGMM‑NN integriert probabilistische Logik in Neuronen

KI verbessert CRISPR-gRNA-Design: Erklärbare Modelle erhöhen Sicherheit

LLMs: Wie Überzeugungskraft und Vorurteile sich gegenseitig verstärken

DE-VAE: Unsicherheit in parametrischen und inversen Projektionen mit VAEs

Entropisches Potential von Ereignissen: Neue KI-Unsicherheitsmethode

🍪 Cookie-Einstellungen