Certik stellt „Anti-Virus für KI-Agenten“ vor, da Kompetenzmärkte mit versteckten Bedrohungen konfrontiert sind

Die Sicherheitsherausforderung

Blockchain und das KI-Sicherheitsunternehmen Certik stellten am 27. Mai eine neue Sicherheitsplattform vor, die darauf ausgelegt ist, Risiken in den Fähigkeiten Dritter im Bereich der künstlichen Intelligenz (KI) zu bewerten. Die Veröffentlichung, die als „Antivirus für KI-Agenten“ bezeichnet wird, erfolgt vor dem Hintergrund wachsender Besorgnis der Branche über die Sicherheit von Marktplätzen für KI-Fähigkeiten.

Sicherheitsforscher haben gewarnt, dass viele dieser Fähigkeiten ungeprüft sind, Aktionen auf Systemebene ausführen können und möglicherweise verstecktes bösartiges Verhalten enthalten, was ein neues Risiko für die Software-Lieferkette im KI-Zeitalter darstellt. Sicherheit Audits in der gesamten Branche haben Risiken identifiziert, die vom Sammeln von Zugangsdaten und Datenexfiltration bis hin zur Manipulation von Geldtransfers und prompt-basierten Override-Angriffen reichen.

Trotz dieser Bedenken sind die Marktplätze für KI-Fähigkeiten mit zunehmender Reife der Agenten-Ökosysteme schnell gewachsen. Im Gegensatz zu herkömmlichen App-Stores stammen die meisten Fertigkeiten jedoch aus öffentlichen Repositories mit geringer oder keiner Überprüfung. Analysten sagen, dass dies Chancen für eröffnet Angreifer können schädliche Anweisungen einbettenunberechtigte Datenzugriffe auslösen oder autonome Ausführungsabläufe manipulieren.

In einem aktuellen BlogbeitragCertik sagte, seine Skill-Scanner-Plattform sei speziell für die Bewertung von Risiken konzipiert, die während der Ausführung entstehen, einschließlich Szenarien mit Finanztransaktionen oder Fondsabrufen. Der Scanner erzeugt eine numerische Bewertung von 0 bis 100, zusammen mit „Bestanden“, „Warnung“ oder „Nicht bestanden“-Urteilen und kategorisierten Ergebnissen. Nach Angaben des Unternehmens erreicht das System eine Genauigkeit von bis zu 90,5 % bei der Identifizierung von Sicherheitsrisiken.

„Da KI-Agenten immer tiefer in Finanzsysteme, Unternehmensabläufe und alltägliche digitale Interaktionen integriert werden, wird das Sicherheitsmodell rund um die Fähigkeiten Dritter von entscheidender Bedeutung“, sagte Ronghui Gu, CEO und Mitbegründer von Certik. „CertiK Skill Scanner wurde entwickelt, um vor der Ausführung eine standardisierte Vertrauensschicht einzurichten und Benutzern und Plattformen dabei zu helfen, versteckte Risiken zu erkennen, bevor sensible Daten, Vermögenswerte oder Systeme offengelegt werden.“

Laut Certik können KI-Skill-Marktplätze den Scanner direkt in Veröffentlichungspipelines integrieren, Skills automatisch überprüfen, bevor sie live gehen, und den Benutzern Sicherheitsurteile anzeigen. Unternehmen können das Tool als Teil interner Compliance- und Risikomanagement-Workflows einsetzen, während unabhängige Entwickler es zur Selbstprüfung ihrer Fähigkeiten vor der Veröffentlichung nutzen können.

Das Unternehmen sagte, dass zukünftige Updates es alltäglichen Benutzern ermöglichen werden, Fertigkeiten vor der Installation selbst zu scannen. Der Scanner wurde bereits in Select bereitgestellt Web3 KI-Agent-Infrastrukturumgebungen. Certik erweitert außerdem die Integration mit weiteren Plattformen, darunter Finchip.ai.

„Vertrauen ist die Voraussetzung dafür, dass jede Fachwirtschaft in großem Maßstab funktionieren kann“, sagte Gary Yang, Inkubationsinvestor bei Finchip.ai. „CertiKs Arbeit zur Überprüfung der Qualifikationssicherheit ist genau das, was dieses Ökosystem braucht. Das ist es, was Finchips Mission des programmierbaren Kompetenzbesitzes und der Verteilung lohnenswert macht.“

Der Start folgt der Expansion von Certik in eine KI-fokussierte Sicherheitsinfrastruktur. Anfang des Jahres stellte das Unternehmen seine AI-Auditor-Initiative vor, um Risiken im Zusammenhang mit autonomen Systemen und KI-gesteuerten Ausführungsumgebungen zu begegnen.

„KI-Anwendungen bewegen sich in Richtung einer zunehmend autonomen Ausführung, was eine neue Kategorie von Sicherheits- und Vertrauensherausforderungen mit sich bringt“, sagte Gu. „Wir glauben, dass die Sicherheitsinfrastruktur für das KI-Zeitalter proaktiv und nicht reaktiv funktionieren muss.“