Diese breite Akzeptanz durch Mitarbeiter und Organisationen hat zu neuen Cyber-, Technologie- und Betriebsrisiken geführt. Dazu gehören das Potenzial für Social Engineering, Sicherheitslücken und Systemausfälle. Um diese Risiken richtig einschätzen und bewältigen zu können, müssen Sie herausfinden, welche KI-Technologie Sie sich ansehen werden.
Künstliche Intelligenz ist keine einzige, einheitliche Technologie, sondern eine breite Kategorie, die viele verschiedene Anwendungen und Techniken umfasst. Um KI-Risiken zu verstehen, ist es wichtig, unsere Begriffe klar zu definieren, bevor das KI-Risiko analysiert wird.
Was ist KI?
Die erste Frage, die uns in Bezug auf KI-Risiken oft gestellt wird, lautet: „Was meinst du mit KI?“. KI, wie sie in den Medien und allgemein verwendet wird, ist ein Überbegriff für viele Arten von Anwendungen und Systemen der künstlichen Intelligenz. Diese werden oft von Menschen mit unterschiedlichen Auffassungen oder Anwendungsfällen miteinander vermischt. Dies kann zu Verwirrung darüber führen, welchen Risiken sie tatsächlich ausgesetzt sind, da die potenziellen Bedrohungen nicht dieselben sind.
Also habe ich beschlossen, einige der gängigsten KI-Chatbots zu fragen:
“Beschreiben Sie in einem Absatz, was KI ist und welche Arten von KI auf der Grundlage der am häufigsten verwendeten Fähigkeiten existieren?“
Chat GPT
Künstliche Intelligenz (KI) ist das Gebiet der Informatik, das es Maschinen ermöglicht, menschliche Intelligenz nachzuahmen, einschließlich Lernen, Denken und Problemlösen. Basierend auf ihren Fähigkeiten wird KI in drei Typen eingeteilt: Eingeschränkte KI, Allgemeine KI und Super-KI. Eingeschränkte KI (schwache KI) wurde für bestimmte Aufgaben wie virtuelle Assistenten, Gesichtserkennungs- und Empfehlungssysteme entwickelt. Allgemeine KI (Starke KI) bezieht sich auf Maschinen mit menschenähnlicher Intelligenz, die jede intellektuelle Aufgabe ausführen können, die ein Mensch kann, obwohl dies theoretisch bleibt. Super-KI übertrifft die menschliche Intelligenz und zeichnet sich durch fortgeschrittene Entscheidungsfindung, Kreativität und Selbstbewusstsein aus, aber sie ist rein hypothetisch. Diese Kategorien helfen dabei, die aktuellen Anwendungen und zukünftigen Möglichkeiten der KI zu definieren.
Microsoft Copilot
Künstliche Intelligenz (KI) bezieht sich auf die Entwicklung von Computersystemen, die Aufgaben ausführen können, die typischerweise menschliche Intelligenz erfordern, wie visuelle Wahrnehmung, Spracherkennung, Entscheidungsfindung und Sprachübersetzung. Basierend auf ihren Fähigkeiten kann KI in drei Haupttypen eingeteilt werden: Eingeschränkte KI, die für bestimmte Aufgaben wie virtuelle Assistenten (z. B. Siri, Alexa) konzipiert ist; allgemeine KI, die darauf abzielt, jede intellektuelle Aufgabe zu erledigen, die ein Mensch erledigen kann, obwohl sie zu diesem Zeitpunkt noch weitgehend theoretisch ist; und Superintelligente KI, die menschliche Intelligenz und Fähigkeiten übertrifft, ebenfalls ein theoretisches Konzept.
Claude
Künstliche Intelligenz (KI) bezieht sich auf Computersysteme, die für die Ausführung von Aufgaben konzipiert sind, die typischerweise menschliche Intelligenz erfordern. Sie umfasst sowohl enge KI (für bestimmte Aufgaben konzipiert) als auch allgemeine KI (hypothetisch in der Lage, menschenähnliche allgemeine Intelligenz zu entwickeln). Zu den gängigsten Typen, die auf Fähigkeiten basieren, gehören maschinelle Lernsysteme, die aus Datenmustern lernen, Deep-Learning-Modelle, die neuronale Netze zur komplexen Mustererkennung verwenden, natürliche Sprachverarbeitungssysteme zum Verstehen und Generieren menschlicher Sprache, Computer-Vision-Systeme zur Verarbeitung und Analyse visueller Informationen, Expertensysteme, die Entscheidungen auf der Grundlage vordefinierter Regeln treffen, Robotik-KI für die Automatisierung physischer Aufgaben und Reinforcement-Learning-Systeme, die durch Versuch und Irrtum lernen, um Entscheidungsprozesse zu optimieren. Während sich die engmaschige KI in bestimmten Bereichen wie Bilderkennung, Sprachübersetzung oder Spielen von Spielen auszeichnet, bleibt künstliche allgemeine Intelligenz (AGI), die in allen Bereichen der menschlichen Wahrnehmung entspricht oder diese übertrifft, ein theoretisches Ziel.
Zwillinge
Die obigen Antworten sind im Großen und Ganzen ähnlich. Die am häufigsten verwendete Art von KI-Technologie fällt unter engmaschige KI, manchmal auch als schwache KI bezeichnet. Dazu gehören:
- Große Sprachmodelle (LLMs)
- Generative KI (GenAI)
Der Unterschied zwischen LLMs und GenAI ist ihre Anwendung. LLMs sind eine Untergruppe der generativen KI und LLMs generieren nur Text. GenAI-Anwendungen können verschiedene Arten von Eingaben verwenden, z. B. Bilder oder Töne sowie Wörter, und die Anwendungen können Inhalte generieren, die Text, Bilder und Töne enthalten. Anwendungen wie ChatGPT, Microsoft Copilot oder Claude von Anthropic werden jetzt multimodales GENAI genannt, weil sie mehr als nur Text verarbeiten und generieren können.
Sobald Sie die Arten von KI identifiziert haben, die Sie oder Ihre Drittanbieter verwenden und bewerten müssen, können Sie die potenziellen Risikoszenarien, denen Sie und Ihr Unternehmen ausgesetzt sein könnten, besser einschätzen.
Die CIA-Triade und gemeinsame Risiken im Zusammenhang mit KI
Für Risikomanager und politische Entscheidungsträger ist die CIA-Triade nützlich, um allgemeine KI-bezogene Risiken zu identifizieren.
Vertraulichkeit
- Mitarbeiter, die Open-Source-LLMs verwenden und vertrauliche Unternehmensinformationen preisgeben
- LLM von Drittanbietern verfügt über schlechte Kontrollen, was dazu führt, dass Ihre Daten per Prompt-Injection durchgesickert werden
- Cyberkriminelle nutzen KI-Tools, um Angriffe wie Phishing, die zu einer Sicherheitsverletzung führen, zu verstärken
Integrität
- Datenvergiftung durch LLM, was zu Problemen mit den Modellausgaben führt
- Die verwendeten Trainingsdaten werden nicht ordnungsgemäß gesichert oder verwaltet, was zu potenziellen Verzerrungen bei den Ergebnissen führen kann.
Verfügbarkeit
- Cyberkriminelle nutzen LLMs, um Zero-Day-Schwachstellen zu entdecken und auszunutzen
- Die Verwendung von LLMs für bestimmte Anwendungsfälle und wenn sie nicht verfügbar sind, führt dies zu Systemausfällen
Wie analysieren wir das KI-Risiko?
Um bei der Identifizierung der relevantesten KI-Risikoszenarien zu helfen, empfehlen wir, die in der Leitfaden für den FAIR-AIR-Ansatz. Dieser Ansatz hilft Risikoanalysten und Risikomanagern, dieselbe Sprache wie das Unternehmen zu sprechen, sodass Entscheidungsträger und Führungskräfte das Risiko verstehen und wissen, was zu tun ist, um das Risiko zu reduzieren.
5 Schritte zur Risikoanalyse mit dem FAIR-AIR-Ansatz
1) Kontextualisieren
- Warum analysieren Sie dieses Risiko und was ist der Grund dafür?
- Was sind Vektoren für KI-Risiken?
2) Geltungsbereich
- Identifizieren Sie Risikoszenarien
- Identifizieren Sie die Angriffsfläche, den Bedrohungsakteur, die Angriffsmethode und die Auswirkungen der Bedrohung auf Ihre Anlage
3) Quantifizieren
- Ermitteln Sie die Wahrscheinlichkeit und die Auswirkungen des Risikos
4) Priorisieren/Behandeln
- Bestimmen Sie die Behandlungsoptionen und priorisieren Sie diejenigen mit der größten Wirkung
5) Entscheidungsfindung
- Anhand der Ergebnisse und Behandlungsoptionen entscheiden Sie über den weiteren Plan
.png)
