Der Beruf des KI-Ethikers (oft auch AI Ethics Officer oder Responsible AI Lead) hat sich in österreichischen Unternehmen rasant professionalisiert. Getrieben durch den EU AI Act, dessen Kernbestimmungen greifen, wandelt sich die Rolle von rein philosophischer Beratung hin zu einer geschäftskritischen Schnittstellenfunktion.

Betrachtet man das Szenario einer kommenden Superintelligenz (Artificial Superintelligence, kurz ASI) – also einer KI, die die menschlichen Fähigkeiten in praktisch allen Bereichen weit übertrifft –, verschieben sich die Aufgaben in einem österreichischen Unternehmen drastisch. Das Aufgabengebiet teilt sich dann in zwei Dimensionen: das tägliche operative Geschäft und die strategische Vorbereitung auf den „Tag X“.

1. Das Fundament: Die aktuelle operative Rolle

Bevor ein Unternehmen überhaupt über Superintelligenz nachdenken kann, muss der KI-Ethiker die heutige Basisarbeit leisten. In Österreich bedeutet das aktuell vor allem:

• Compliance & EU AI Act: Sicherstellen, dass alle eingesetzten Systeme (vom HR-Screener bis zum Kundenservice-Bot) den strengen EU-Richtlinien entsprechen.
• AI Literacy (KI-Kompetenz): Schulung der Belegschaft, um einen verantwortungsvollen Umgang mit bestehenden Systemen zu garantieren.
• Bias- und Fairness-Prüfung: Verhindern, dass Algorithmen diskriminieren (z. B. bei der Kreditvergabe oder im Recruiting).

2. Die neue Dimension: Vorbereitung auf die Superintelligenz

Sobald die Entwicklung Richtung ASI an Fahrt aufnimmt, mutiert der KI-Ethiker im Unternehmen vom „Regelprüfer“ zum strategischen Risiko- und Zukunftsmanager. Seine Aufgaben umfassen dann folgende Kernbereiche:

A. Das Alignment-Problem auf Unternehmensebene

Das fundamentale Problem einer Superintelligenz ist das „Alignment“ (die Werteanpassung): Wie stellt man sicher, dass eine Entität, die klüger ist als die gesamte Menschheit, exakt das tut, was im Sinne des Unternehmens und der Gesellschaft ist?

• Sicherheitsarchitekturen (Kill Switches): Der KI-Ethiker arbeitet eng mit der IT-Security zusammen. Er definiert ethische und operationelle rote Linien. Wenn eine KI Anzeichen von unkontrolliertem, eigendynamischem Verhalten zeigt, müssen vordefinierte Notfallprotokolle greifen.
• Szenarien-Planung: Was passiert, wenn die firmeneigene KI plötzlich exponentiell lernt? Der Ethiker entwickelt „Early Warning Indicators“ (Frühwarnsysteme), um den Übergang von einer starken KI (AGI) zu einer Superintelligenz (ASI) rechtzeitig zu erkennen.

B. Wirtschaftliche und gesellschaftliche Verantwortung (CSR)

In Österreich ist die Unternehmenslandschaft stark von KMUs und einer ausgeprägten Sozialpartnerschaft geprägt. Ein KI-Ethiker muss hier eine Brücke bauen:

• Arbeitsplatz-Transformation: Eine ASI könnte theoretisch fast jede kognitive Aufgabe im Unternehmen übernehmen. Der Ethiker plant gemeinsam mit dem Betriebsrat und HR den Übergang: Wie sieht ein Unternehmen aus, in dem die Wertschöpfung primär von einer ASI generiert wird? Wie bleibt der Mensch im Mittelpunkt?
• Ethische Lieferketten: Nutzt das Unternehmen externe ASI-Modelle (z. B. von großen Tech-Giganten), muss der Ethiker prüfen, unter welchen Bedingungen diese trainiert wurden und ob die Machtkonzentration bei diesen Anbietern mit den Werten des eigenen Unternehmens vereinbar ist.

C. Vertrauen und Transparenz gegenüber Kunden

Österreichische Konsumenten gelten im internationalen Vergleich als technoskeptisch und datenschutzbewusst.

• Die „Black Box“ erklären: Eine Superintelligenz trifft Entscheidungen auf Wegen, die für das menschliche Gehirn nicht mehr nachvollziehbar sind. Der KI-Ethiker muss Kriterien definieren, wann ein System trotz dieser mangelnden „Erklärbarkeit“ (Explainability) eingesetzt werden darf und wie man das Vertrauen der Kunden sichert.

Zusammenfassung: Das Profil des „ASI-Ethikers“

Der Job erfordert ein extrem interdisziplinäres Profil. Der ideale KI-Ethiker in dieser Ära ist kein reiner Philosoph mehr, sondern eine Mischung aus:

[Philosophie/Ethik] <---> [Technisches Verständnis (KI-Modelle)] <---> [Recht/Compliance (EU AI Act)]
                                      │
                                      ▼
                         [Strategisches Risikomanagement]

Er sorgt dafür, dass das Unternehmen die immensen wirtschaftlichen Chancen einer Superintelligenz nutzen kann, ohne die Kontrolle zu verlieren, rechtlich ins Straucheln zu geraten oder den menschlichen Kern des Unternehmens aufzugeben.