(Wien/Brüssel, 18-11-2024) Die Europäische Union schreibt Geschichte bei der Regulierung von Künstlicher Intelligenz: Als erste Region weltweit erarbeitet sie konkrete Praxisrichtlinien für die Entwicklung und den Einsatz von General-Purpose AI — vielfältig einsetzbaren AI-Modellen, die hinter Systemen with ChatGPT stecken. Matthias Samwald, außerordentlicher Professor am Institut für Artificial Intelligence der Medizinischen Universität Wien, leitet dabei als Co-Chair eine der vier zentralen Arbeitsgruppen.
"Wir stehen an einem entscheidenden Punkt in der Entwicklung von Künstlicher Intelligenz. Im biomedizinischen Bereich sehen wir das enorme Potenzial von General Purpose AI-Modellen, etwa bei der Beschleunigung der Forschung oder der Verbesserung von medizinischen Diagnosen. Gleichzeitig müssen wir aber auch die systemischen Risiken ernst nehmen - von der Gefahr großangelegter Desinformation bis hin zu grundlegenden Herausforderungen bei der Kontrolle autonomer KI-Systeme", erklärt Samwald seine Motivation für das Engagement.
Der "General-Purpose AI Code of Practice" wird die grundlegenden Prinzipien des EU AI Act in praktische, umsetzbare Maßnahmen übersetzen. In seiner Rolle als Co-Chair der Arbeitsgruppe "Risk identification and assessment" entwickelt Samwald mit seinem Team Kriterien zur Identifikation und Bewertung von KI-Systemen, die systemische Risiken bergen könnten.
"Die EU steht derzeit wegen übermäßiger Regulierung in der Kritik, aber ein praxistaugliches Regelwerk kann Vorteile für Innovation und Sicherheit schaffen", betont Samwald. "Anders als etwa in den USA, wo verschiedene Bundesstaaten unterschiedliche Regeln entwickeln, wollen wir Unternehmen und Forschenden einen klaren, EU-weit gültigen Rahmen bieten. Das senkt nicht nur die Kosten für die Entwicklung von KI-Systemen, sondern ermöglicht auch eine effektivere Risikoprävention."
Die Erarbeitung des Code of Practice erfolgt in einem bisher einzigartigen Konsultationsprozess: Rund 1000 Interessensvertreter:innen aus Wirtschaft, Wissenschaft und Zivilgesellschaft sind eingebunden. Die erste Entwurfsfassung wurde am 14. November 2024 veröffentlicht. Die finale Version soll bis Mai 2025 vorliegen.
Zur Person
Matthias Samwald ist außerordentlicher Professor am Institut für Artificial Intelligence der Medizinischen Universität Wien. Seine Forschung konzentriert sich auf die Nutzung von KI zur Beschleunigung biomedizinischer Forschung und Verbesserung der Gesundheitsversorgung. Er war Co-Initiator des 15-Millionen-Euro-Projekts "U-PGx" zur personalisierten Medizin und bringt seine Expertise in Bereichen wie Large Language Models, Systemevaluierung und AI-Governance ein.