>_AYSOLI SECURITY HUB
THREAT AREA

Interner Company-Chatbot

Der Einsatz von LLMs auf Basis interner Daten (RAG - Retrieval Augmented Generation) ist ein enormer Effizienzschub, birgt aber das Risiko, dass die KI interne Berechtigungskonzepte umgeht.

Deine Strategie

Sicherheit muss auf zwei Ebenen stattfinden: Erstens müssen die Datenquellen selbst strikte Zugriffskontrollen haben. Zweitens muss ein LLM-Gateway sicherstellen, dass keine sensiblen Informationen (PII) die Organisation verlassen oder unbefugt im Chat erscheinen.

Best Practices

  • ▸Isolation: Nutze separate Vector-Datenbanken für unterschiedliche Vertraulichkeitsstufen.
  • ▸Filtering: Implementiere automatisierte Filter für Injections (Input) und PII-Leaks (Output).
  • ▸Alignment: Nutze RLHF-optimierte Modelle, die darauf trainiert sind, System-Prompts nicht preiszugeben.

STRIDE-LM Design-Risiken

SpoofingS-01

Identity Spoofing

Angreifer gibt sich als legitimer Benutzer oder Partner aus.

TamperingT-AI-01

Prompt Injection

Manipulation des LLM-Verhaltens durch bösartige Eingaben.

RepudiationR-01

Audit Log Manipulation

Löschen oder Verändern von Spuren einer Aktion.

Information DisclosureI-AI-01

RAG Data Leakage

Unbeabsichtigte Preisgabe sensibler Dokumente durch den Chatbot.

Denial of ServiceD-01

Resource Exhaustion

Überlastung von Systemen durch massenhafte Anfragen oder Ressourcen-Hogging.

Elevation of PrivilegeE-AI-02

Indirect Prompt Injection

Angriff über Datenquellen, die das LLM liest (z.B. Webseiten, Mails).

Lateral MovementL-01

Lateral Movement

Zugriff auf weitere interne Systeme nach erstem Login.

Monitoring GapsM-AI-02

Overreliance on AI Outputs

Ungeprüfte Übernahme von KI-generierten Inhalten oder Code.

MITRE ATT&CK® Techniken

Reconnaissance
T1592

Gather Victim Digital Network Information

ATT&CK

Sammeln von Informationen über die Ziel-Infrastruktur.

Mitigiert durch
LLM Gateway / FirewallErweiterter SchutzMittel
NIST: AI-1OWASP: LLM01
RLHF & Model AlignmentErweiterter SchutzHoch
NIST: AI-1.1OWASP: LLM02
Continuous AI Red TeamingErweiterter SchutzHoch
CIS: 18.1NIST: AI-5.1
Output Content FilteringGrundschutzNiedrig
NIST: AI-1.2OWASP: LLM02
Data Anonymization (Differential Privacy)Erweiterter SchutzHoch
NIST: PR.PT-3
Consent & Privacy ManagementGrundschutzMittel
NIST: PR.PT-3
Initial Access
T1566

Phishing

ATT&CK

Zustellung schädlicher Inhalte über elektronische Kommunikation.

Mitigiert durch
LLM Gateway / FirewallErweiterter SchutzMittel
NIST: AI-1OWASP: LLM01
RLHF & Model AlignmentErweiterter SchutzHoch
NIST: AI-1.1OWASP: LLM02
Continuous AI Red TeamingErweiterter SchutzHoch
CIS: 18.1NIST: AI-5.1
Output Content FilteringGrundschutzNiedrig
NIST: AI-1.2OWASP: LLM02
Adaptive MFA (Risk-based)Erweiterter SchutzNiedrig
CIS: 6.5NIST: PR.AC-7
T1078

Valid Accounts

ATT&CK

Ausnutzung bestehender Anmeldedaten für den Zugriff.

Mitigiert durch
Least Privilege PrincipleGrundschutzMittel
CIS: 6.2NIST: PR.AC-6OWASP: A01:2021
Regular Access ReviewsGrundschutzNiedrig
CIS: 6.6NIST: PR.AC-1OWASP: A01:2021
Adaptive MFA (Risk-based)Erweiterter SchutzNiedrig
CIS: 6.5NIST: PR.AC-7
Credential Access
T1539

Steal Web Session Cookie

ATT&CK

Abgreifen von aktiven Session-Tokens zur Umgehung der Authentifizierung.

Mitigiert durch
Adaptive MFA (Risk-based)Erweiterter SchutzNiedrig
CIS: 6.5NIST: PR.AC-7
T1552

Credentials from Password Stores

ATT&CK

Auslesen von Passwörtern aus Web-Browsern oder Passwort-Managern.

Mitigiert durch
Output Content FilteringGrundschutzNiedrig
NIST: AI-1.2OWASP: LLM02
Collection
T1213

Data from Information Repositories

ATT&CK

Abgreifen von Daten aus Wissensdatenbanken (SharePoint, Confluence).

Mitigiert durch
LLM Gateway / FirewallErweiterter SchutzMittel
NIST: AI-1OWASP: LLM01
Least Privilege PrincipleGrundschutzMittel
CIS: 6.2NIST: PR.AC-6OWASP: A01:2021
Exfiltration
T1020

Automated Exfiltration

ATT&CK

Automatisiertes Abgreifen von Daten über Schnittstellen.

Mitigiert durch
LLM Gateway / FirewallErweiterter SchutzMittel
NIST: AI-1OWASP: LLM01
Continuous AI Red TeamingErweiterter SchutzHoch
CIS: 18.1NIST: AI-5.1
Output Content FilteringGrundschutzNiedrig
NIST: AI-1.2OWASP: LLM02
Data Anonymization (Differential Privacy)Erweiterter SchutzHoch
NIST: PR.PT-3
Consent & Privacy ManagementGrundschutzMittel
NIST: PR.PT-3
T1567

Exfiltration Over Web Service

ATT&CK

Abfluss von Daten über legitime Web-Schnittstellen.

Mitigiert durch
LLM Gateway / FirewallErweiterter SchutzMittel
NIST: AI-1OWASP: LLM01
Continuous AI Red TeamingErweiterter SchutzHoch
CIS: 18.1NIST: AI-5.1
SIEM IntegrationErweiterter SchutzHoch
CIS: 8.5NIST: DE.AE-3NIST: DE.CM-1OWASP: A09:2021

Dein Szenario ist komplexer?

Die AYSOLI Experten unterstützen dich bei der Umsetzung deiner spezifischen Sicherheitsanforderungen.

Kostenloses Erstgespräch
Interner Company-Chatbot | IT-Sicherheit Checkliste für KMU · AYSOLI Security Hub