30.08.2024
Semantic Kernel
Schutz für KI-Anwendungen vor Prompt-Injection-Angriffen
Autor: Online Redaktion
dotnetpro
Microsoft hat neue Sicherheitsmaßnahmen für den Semantic Kernel vorgestellt, die Entwicklern helfen sollen, Prompt-Injection-Angriffe zu verhindern.
Prompt Injection-Angriffe stellen eine ernsthafte Bedrohung für Anwendungen dar, die automatisierte Chat-Prompts verwenden. Mit dem Ziel, diese Bedrohung zu minimieren, verfolgt Microsoft einen Zero-Trust-Ansatz, bei dem jeder Eingabewert zunächst als unsicher behandelt wird. Dies bedeutet, dass alle in Prompts eingefügten Inhalte standardmäßig codiert werden, um schädliche Eingaben zu verhindern.
Ein Beispiel für eine potenzielle Sicherheitslücke wären Benutzereingaben, die möglicherweise bösartigen Code enthalten. Microsoft hat mehrere Strategien entwickelt, um eine derartige Infiltration zu verhindern.
Entwickler sind jetzt in der Lage, Eingangsvariablen und Rückgabewerte von Funktionen so zu konfigurieren, dass sie entweder als sicher oder unsicher betrachtet werden. Standardmäßig wird der Inhalt einer Eingangsvariablen HTML-codiert, was zur Sicherheit der Anwendung beiträgt. Jedoch können Entwickler auch opt-in-Optionen nutzen, wenn sie davon überzeugt sind, dass bestimmte Inhalte sicher sind.
Die neue Sicherheitsschicht umfasst auch die Integration von Tools wie Prompt Shields, die speziell entwickelt wurden, um gegen Prompt-Injection-Angriffe zu schützen. Prompt Shields ist ein API, das Eingaben an Large Language Models analysiert und Angriffe erkennt.
Ein weiteres Plus ist die Dokumentation sowie Beispiele, die Microsoft zur Verfügung stellt, um Entwicklern einen klaren Überblick über die Implementierung dieser Sicherheitsmaßnahmen zu geben. Künftige Updates und Blogbeiträge sind in Planung, um die Community über die fortlaufenden Entwicklungen im Bereich der Sicherheitsprotokolle auf dem Laufenden zu halten.
130.000 Blackwell-GPUs
Oracle bietet ersten Zettascale-Cloud-Computing-Cluster an
Oracle kündigte auf der Oracle CloudWorld den ersten Zettascale-Cloud-Computing-Cluster an. Oracle Cloud Infrastructure (OCI) bietet damit einen der größten KI-Supercomputer in der Cloud an – verfügbar mit bis zu 131.072 Nvidia Blackwell-GPUs.
>>
Ifo-Umfrage
Viele Betriebe zögern bei Künstlicher Intelligenz
Künstliche Intelligenz (KI) wird in der deutschen Wirtschaft zunehmend genutzt, jedoch hauptsächlich von großen Unternehmen. Vor allem die IT-Branche selbst sowie unternehmensnahe Dienstleister gehören zu den Vorreitern.
>>
Doppelspitze
Securepoint - Maximilian Senff ist neben René Hofmann Geschäftsführer
Der Security-Spezialist Securepoint hat Maximilian Senff in die Geschäftsführung berufen. Er ist seit 2023 CFO des Unternehmens. Nun wird er gemeinsam mit René Hofmann Securepoint leiten.
>>
Digitalisierungsmesse
DIGITAL X - Technologie mit Impact
Wie bleiben große Publikumsmessen wie die DIGITAL X auf der Höhe der Zeit und technologisch relevant? Klaus Werner, Schirmherr der größten Digitalisierungsmesse Europas und Geschäftsführer Geschäftskunden von Telekom Deutschland, hat es uns verraten.
>>