was regelt der EU AI Act?
Sep 16, 6:21pm

Einfach erklärt:

Was regelt der EU AI Act?
Der EU AI Act (KI-Gesetz der EU) ist ein Regelwerk, das festlegt, wie künstliche Intelligenz (KI) in der Europäischen Union sicher und fair genutzt werden darf. Es soll verhindern, dass KI-Systeme Menschen schaden oder ihre Rechte verletzen.

Zusammenfassung:

  • Ziel: KI-Systeme sollen sicher, transparent und vertrauenswürdig sein.
  • Risikoklassen: KI wird nach Risiko eingeteilt – von „unannehmbar“ (verboten) bis „geringes Risiko“ (kaum Regeln).
  • Verbotene KI: Systeme, die Menschen manipulieren oder diskriminieren (z. B. Social Scoring wie in China).
  • Hohe Risiken: KI in kritischen Bereichen wie Gesundheit, Verkehr oder Justiz muss strenge Auflagen erfüllen (z. B. Transparenz, Datenschutz).
  • Strafen: Bei Verstößen drohen hohe Bußgelder (bis zu 35 Mio. € oder 7 % des weltweiten Umsatzes).

Mittleres Niveau:

Für wen gilt der EU AI Act?
Das Gesetz betrifft alle Unternehmen und Organisationen, die KI in der EU entwickeln, anbieten oder nutzen – egal, ob sie in der EU ansässig sind oder nicht. Besonders relevant ist es für Tech-Konzerne, Start-ups, Behörden und Forschungseinrichtungen.

Wichtige Punkte:

  • Transparenz: Nutzer müssen wissen, wenn sie mit einer KI interagieren (z. B. Chatbots).
  • Dokumentation: Hochriskante KI-Systeme müssen detaillierte Risikoanalysen und technische Unterlagen vorlegen.
  • Menschliche Aufsicht: In kritischen Bereichen (z. B. Medizin) muss ein Mensch die KI-Entscheidungen überprüfen können.
  • Datenqualität: KI darf nur mit hochwertigen, repräsentativen Daten trainiert werden, um Diskriminierung zu vermeiden.
  • Innovation vs. Sicherheit: Das Gesetz soll Innovation fördern, aber gleichzeitig Grundrechte schützen.

Expertenniveau:

Rechtliche und technische Details
Der EU AI Act ist das erste umfassende KI-Regelwerk weltweit und setzt globale Standards. Er basiert auf dem risikobasierten Ansatz und ist eng mit der DSGVO (Datenschutz) und dem Produktsicherheitsrecht verknüpft.

Schlüsselaspekte:

  • Rechtsgrundlage: Verordnung (direkt anwendbar in allen EU-Mitgliedstaaten, keine Umsetzung in nationales Recht nötig).
  • Geltungsbereich: Betrifft alle KI-Systeme, die in der EU vermarktet oder genutzt werden – inklusive Open-Source-Modelle und Generative KI (z. B. LLMs wie ChatGPT).
  • Konformitätsbewertung:
    • Hochrisiko-KI: Zertifizierung durch benannte Stellen (ähnlich wie bei Medizinprodukten).
    • Generative KI: Muss Kennzeichnungspflichten erfüllen (z. B. Hinweis auf KI-generierte Inhalte).
  • Durchsetzung: Nationale Behörden (z. B. in Deutschland das Bundesamt für Sicherheit in der Informationstechnik, BSI) überwachen die Einhaltung.
  • Internationale Auswirkungen: Unternehmen außerhalb der EU müssen sich anpassen, wenn sie im EU-Markt aktiv sein wollen („Brussels Effect“).

Fazit: Der EU AI Act ist ein Meilenstein für die Regulierung von KI – er balanciert Innovation und Sicherheit und könnte zum Vorbild für andere Länder werden.

Frage an dich, Matthias: Interessiert dich ein bestimmter Aspekt besonders, z. B. wie das Gesetz Generative KI wie mich reguliert? 😊

Sep 16, 6:21pm

This is a shared conversation and may include unverified content that doesn't reflect Mistral AI's views. Login to resume chatting.