KI in Medizin, Luftfahrt, Finanzen und Recht: Dieselbe Methode oder eine andere?

TL;DR

• In der Medizin entscheidet eine Behörde mit: Die FDA hat im Juni 2026 mit UpDoc erstmals ein Software-Medizinprodukt mit patientenseitigem LLM zugelassen, aber nur für eine eng abgegrenzte Aufgabe: Insulin-Dosierung bei Typ-2-Diabetes.
• In der Luftfahrt gibt es sogar einen mehrjährigen Fahrplan: EASA erlaubt bis heute nur unterstützende KI-Systeme im Cockpit und in der Flugsicherung, vollautonomer kommerzieller Flugverkehr ist frühestens für 2035 vorgesehen.
• In den Finanzen entsteht die Kontrolle erst: JPMorgan lässt Agenten ab 2026 stundenlang autonom laufen, während die US-Notenbank agentische KI im April 2026 ausdrücklich aus ihrer Risikoleitlinie ausklammert. In Deutschland wird die BaFin erst zum 29. Juli 2026 zur zuständigen Marktüberwachungsbehörde.
• Im Recht bleibt die Kontrolle beim Menschen, nicht beim System: Laut dem Legal AI Agentic Deployment Readiness Report 2026 lässt eine relevante Minderheit der Kanzleien Agenten bereits Dokumente einreichen und Verträge weiterleiten, ohne dass ein Mensch jede einzelne Aktion prüft, oft ohne dokumentierte Freigabegrenzen.
• Die Methode aus der Fabrikhalle, klar abgegrenzte Prozesse, Autonomiegrade, menschliche Freigaben an Risikopunkten, taucht in allen vier Feldern wieder auf. Wer die Grenze zieht und wie verbindlich sie ist, unterscheidet sich aber grundlegend: eine Behörde mit Prüfpfad, eine Behörde mit Jahreszahlen, eine entstehende Aufsicht oder eine jahrhundertealte Standesregel.

Ein Agent, der eine Rechnung prüft und bei Abweichung eine Freigabe einholt, ist die eine Geschichte. Ein Agent, der einer Patientin die Insulindosis nennt, ein Flugzeug bei der Landung unterstützt, eine Rückerstattung im Kundenkonto auslöst oder eine Frist bei Gericht wahrt, ist eine andere. In der Fertigung und im klassischen Backoffice hat sich 2026 eine Methode durchgesetzt: Prozesse in klar abgegrenzte Schritte zerlegen, Autonomiegrade festlegen, an Risikopunkten eine menschliche Freigabe einbauen. Die Frage dieses Artikels ist, ob dieselbe Methode in vier Feldern funktioniert, die traditionell als zu riskant für Automatisierung galten, oder ob dort etwas grundlegend anderes greift.

Medizin: Die Zulassung kommt vor dem Einsatz

Am 25. Juni 2026 gab das Unternehmen UpDoc bekannt, was es als erste Zulassung eines Software-Medizinprodukts mit patientenseitigem Sprachmodell durch die US-Arzneimittelbehörde FDA bezeichnet. Die eigentliche Freigabe, mit der Kennung K253281, war bereits am 23. Dezember 2025 erteilt worden. Patientinnen und Patienten mit Typ-2-Diabetes können per Sprache oder Text mit dem System interagieren und erhalten Anweisungen zur Insulindosierung, auf Basis eines vom Arzt festgelegten Behandlungsplans. Das System meldet die Interaktion an die elektronische Patientenakte zurück, damit der Arzt informiert bleibt. Ausgerollt wird die Plattform unter anderem an der Cleveland Clinic, dem Allegheny Health Network und UCSF Health, finanziert mit 18 Millionen US-Dollar Startkapital von Investoren wie Mayo Clinic und Eli Lilly.

Bemerkenswert ist, wie eng die Zulassung geschnitten ist. UpDoc erhielt sie über den 510(k)-Pfad, bei dem ein neues Produkt gegen ein bereits zugelassenes Vergleichsprodukt argumentiert, in diesem Fall ein klassischer, nicht auf Sprachmodellen basierender Insulinrechner. Die FDA hat damit kein autonomes KI-Arztsystem zugelassen, wie mehrere Fachartikel betonen, sondern ein eng begrenztes, protokollgebundenes Werkzeug. Bis Ende 2025 entfielen laut einer Auswertung von IntuitionLabs rund 76 Prozent der insgesamt 1.451 KI-Zulassungen der FDA auf die Radiologie, kaum eine davon mit direktem Patientenkontakt. UpDoc ist damit die Ausnahme, nicht die Regel.

Seit dem 6. Januar 2026 hat die FDA zudem neue Leitlinien für klinische Entscheidungsunterstützungssoftware veröffentlicht, die genauer festlegen, wann ein Werkzeug als Medizinprodukt gilt. Die entscheidende Linie verläuft dort, wo Software patientenseitig direkt handelt oder eigenständig Aktionen auslöst statt nur Ärztinnen und Ärzte zu informieren. Genau das ist der Moment, in dem aus einem Hilfsmittel ein zulassungspflichtiges Gerät wird. Eine aktuelle Studie in Nature Medicine fasst die Richtung zusammen, in die klinische KI-Agenten sich bewegen: institutionell kontrollierter Einsatz, kombiniert mit einer Zuverlässigkeitsschätzung zur Laufzeit, die selektive Autonomie mit ausdrücklicher menschlicher Eskalation ermöglicht. Das ist im Kern dieselbe Idee wie die Autonomiegrade aus der Industrie, nur dass eine Behörde und nicht das Unternehmen selbst festlegt, wo die Grenze verläuft. In Europa gilt für Software als Medizinprodukt zusätzlich die Medizinprodukteverordnung (MDR), mit CE-Kennzeichnung durch eine benannte Stelle statt einer einzelnen Bundesbehörde, im Grundsatz aber einer ähnlich strengen Logik.

Luftfahrt: Ein Fahrplan mit Jahreszahlen

Noch weiter gefasst als in der Medizin ist die Planung in der Luftfahrt. Die europäische Flugsicherheitsagentur EASA veröffentlichte bereits 2020 eine KI-Roadmap und aktualisierte sie 2023 als Version 2.0: Bis etwa 2025 sollten Systeme zugelassen werden, die Menschen unterstützen und mit ihnen zusammenarbeiten, vollständig autonomer gewerblicher Flugverkehr ist dagegen frühestens für 2035 vorgesehen. Zu den technischen Grundlagen zählen die gemeinsam mit dem Unternehmen Daedalean entwickelten Berichte „Concepts of Design Assurance for Neural Networks“, die im Detail festlegen, wie neuronale Netze in sicherheitskritischer Software geprüft werden müssen, eingebettet in den bestehenden Zertifizierungsstandard DO-178C für Flugsoftware. Die US-Luftfahrtbehörde FAA veröffentlichte 2024 einen eigenen „Roadmap for Artificial Intelligence Safety Assurance“ und arbeitet an einem eigenen KI-Fahrplan, der für 2026 angekündigt ist.

In der Praxis zeigt sich das an sehr konkreten, eng begrenzten Produkten. Garmins Notfallsystem Emergency Autoland, das ein Flugzeug bei einem medizinischen Notfall des Piloten automatisch landen kann, wurde bei Testflügen des Cessna Citation CJ4 Gen3 von Textron Aviation aktiviert und befindet sich auf dem Weg zur vollständigen FAA-Zulassung. Das Unternehmen Merlin entwickelt mit Merlin Pilot einen KI-Sicherheitskopiloten, der Flüge überwacht und schrittweise auf mehr Autonomie zusteuert, während Daedalean mit PilotEye ein kamerabasiertes System zur Kollisionserkennung baut. Auch die Flugsicherung selbst wird erforscht: Mehrere britische Arbeiten, die auf der Fachkonferenz AIAA SCITECH 2026 vorgestellt wurden, entwickeln und testen KI-Agenten für die Fluglotsenunterstützung ausdrücklich mit einem regulierten Bewertungsrahmen und systematischen Human-in-the-loop-Tests, bevor an einen produktiven Einsatz überhaupt zu denken ist.

Finanzen: Die Aufsicht holt die Praxis erst ein

Bei JPMorgan Chase beschreibt Chief Analytics Officer Derek Waldron 2026 als den Beginn einer neuen Phase: „Wir sind jetzt in die Ära lang laufender autonomer Agenten eingetreten“, sagte er gegenüber CNBC. Statt einzelner, kurzer Aufgaben sollen Agenten künftig stundenlang ohne menschliches Eingreifen arbeiten. Im Private Banking prüft KI bereits über Nacht Marktdaten, Kundenportfolios und Research, was laut Bank zu 20 Prozent mehr Bruttoumsatz beigetragen hat. Insgesamt laufen bei JPMorgan im ersten Quartal 2026 mehr als 400 KI-Anwendungsfälle produktiv, auf einer Plattform, die täglich Transaktionen im Wert von 10 Billionen US-Dollar verarbeitet, darunter etablierte Systeme wie COIN für die Vertragsprüfung und LOXM für algorithmische Handelsausführung. Goldman Sachs wiederum entwickelt gemeinsam mit Anthropic eigene, autonome Claude-Agenten für Handelsabgleich, Buchhaltung, Compliance und die Aufnahme neuer Kunden, gezielt in den margenstarken Backoffice-Funktionen.

Dass Autonomie in der Finanzbranche nicht linear nach oben verläuft, zeigt das Beispiel Klarna. Das Unternehmen sparte mit einem einzigen KI-Agenten im Kundenservice 60 Millionen US-Dollar ein, senkte die Bearbeitungszeit von elf auf zwei Minuten und die Fehlerquote um 80 Prozent. Später kehrte Klarna teilweise zu einem hybriden Modell zurück, mit einem flexiblen Pool menschlicher Fachkräfte, die einspringen, sobald der Agent an das erreicht, was Branchenbeobachter die „Vertrauensschwelle“ nennen. Autonomie lässt sich demnach nicht nur technisch, sondern auch organisatorisch wieder zurückdrehen, wenn sie an ihre Grenzen stößt.

Auf der Aufsichtsseite ist das Bild noch im Aufbau. Singapurs Infocomm Media Development Authority veröffentlichte im Januar 2026 das nach eigenen Angaben erste Governance-Rahmenwerk, das speziell für autonome KI-Agenten geschrieben wurde, ein erstes Signal, dass bestehende Regelwerke bei Agenten nicht mehr greifen. Die US-Notenbank ging im April 2026 den umgekehrten Weg: Ihre neue Risikoleitlinie SR 26-2 klammert generative und agentische KI ausdrücklich aus ihrem Geltungsbereich aus. In Deutschland wird die BaFin laut einer Analyse von Taylor Wessing erst zum 29. Juli 2026 mit Inkrafttreten des KI-Marktüberwachungs- und Innovationsförderungsgesetzes zur zuständigen Marktüberwachungsbehörde für zahlreiche KI-Systeme im Finanzmarkt, mit besonderem Augenmerk auf KI-Agenten in Kundenschnittstellen. Bis eigene Aufsichtserwartungen zu Governance, Dokumentation und Kontrollmechanismen vorliegen, füllen Banken die Lücke bislang mit eigenen internen Regeln, ergänzt um allgemeine Vorgaben der EZB-Bankenaufsicht zu interner Governance und IKT-Risiken, die 2026 ebenfalls verschärft wurden.

Recht: Die Pflicht bleibt beim Menschen

Im Recht existiert weder ein Zulassungsverfahren wie in der Medizin und der Luftfahrt noch eine entstehende Marktaufsicht wie in den Finanzen. Stattdessen gilt weiterhin, wer haftet: die Anwältin, der Anwalt. Das American Bar Association Formal Opinion 512 aus dem Jahr 2024 überträgt die klassischen Sorgfalts-, Vertraulichkeits-, Aufsichts- und Gebührenpflichten unverändert auf generative KI, und die kalifornische Anwaltskammer verlangt in ihrer Leitlinie für 2026 ausdrücklich, dass ein Anwalt jede Ausgabe prüft, bevor sie in seinem Namen wirkt. Die Technologie selbst bewegt sich trotzdem schnell: GC AI, eine Plattform für Inhouse-Rechtsabteilungen, zählte im September 2026 mehr als 2.100 Rechtsteams als tägliche Nutzer, darunter die Rechtsabteilungen von Snyk, Columbia Sportswear und Eventbrite. Thomson Reuters brachte Anfang 2026 mit CoCounsel Legal ebenfalls agentische Arbeitsabläufe auf den Markt, mit autonomer Dokumentenprüfung und eigenständiger Recherche.

Wie groß die Lücke zwischen Einsatz und Kontrolle bereits ist, zeigt der Legal AI Agentic Deployment Readiness Report 2026 von The Legal Stack. Eine relevante Minderheit der Kanzleien und Rechtsabteilungen lässt KI-Systeme bereits eigenständig Dokumente einreichen, Verträge weiterleiten und Rechnungsfreigaben auslösen, ohne dass jede einzelne Aktion vorher von einem Menschen geprüft wird. Die Parameter, die genau festlegen, was ein Agent darf, waren zum Zeitpunkt der Befragung nur bei 34 Prozent der betroffenen Teams innerhalb der letzten zwölf Monate formal dokumentiert und überprüft worden. Der 8am Legal Industry Report 2026, eine Befragung von mehr als 1.300 Rechtsexperten, kommt zu einem ähnlichen Bild: 43 Prozent der Kanzleien haben keine formale KI-Richtlinie und auch keinen Plan, eine zu erstellen. Gleichzeitig nutzen laut Artificial Lawyer 86 Prozent der Inhouse-Rechtsteams KI inzwischen mindestens wöchentlich.

Ist es dieselbe Methode?

Die kurze Antwort ist ja und nein. Die Bausteine sind überall dieselben: ein Prozess wird in Schritte zerlegt, ein Autonomiegrad wird festgelegt, an bestimmten Punkten greift ein Mensch ein, und jeder Schritt wird protokolliert. Das ist exakt das Muster, das SAP, Mistral, Deutsche Telekom und Siemens für die allgemeine Unternehmens-IT beschreiben. Der Unterschied liegt nicht in der Architektur, sondern darin, wer die Grenze der Autonomie zieht und wie verbindlich sie ist.

In der Medizin und in der Luftfahrt zieht eine externe Behörde die Grenze, bevor ein Produkt überhaupt eingesetzt werden darf, mit klinischer oder technischer Evidenz und einer engen Zweckbestimmung. Die Luftfahrt geht dabei noch einen Schritt weiter als die Medizin: Statt einzelner Produktzulassungen gibt es einen mehrjährigen, öffentlich dokumentierten Fahrplan mit konkreten Jahreszahlen, an dem sich jedes Unternehmen der Branche orientieren muss, ob es will oder nicht. In den Finanzen zieht bislang meist das Unternehmen selbst die Grenze, unter wachsendem, aber noch lückenhaftem Aufsichtsdruck, der von Land zu Land unterschiedlich schnell entsteht. Im Recht liegt die Grenze überhaupt nicht bei einem System, einer Behörde oder einem Fahrplan, sondern bei der einzelnen Person, die für das Ergebnis haftet, unabhängig davon, wie viel davon ein Agent vorbereitet hat. Alle vier Modelle verlangsamen die Wucht anfänglicher Automatisierungsversprechen, aber jedes tut es an einer anderen Stelle der Kette, und mit unterschiedlich hartem Zeitdruck.

Auf einen Blick

Was das für Unternehmen bedeutet

Für Unternehmen, die in einem regulierten Umfeld oder für regulierte Kunden entwickeln, folgen daraus vier praktische Punkte. Erstens: Governance ist in diesen Branchen kein interner Gestaltungsspielraum, sondern zunehmend vorgeschriebener Teil der Architektur, in Medizin und Luftfahrt von Anfang an, in Finanzen und Recht mit wachsendem regulatorischem oder standesrechtlichem Druck. Zweitens: Die formale Zulassung oder Aufsicht ersetzt nicht die eigene Sorgfalt, wie das Beispiel UpDoc zeigt, das trotz Zulassung eng auf einen einzigen Anwendungsfall begrenzt bleibt. Drittens: Ein öffentlicher Fahrplan mit Jahreszahlen, wie ihn die Luftfahrt vorlegt, schafft zwar Planungssicherheit, verlangsamt aber auch bewusst das Tempo, mit dem neue Autonomiestufen erreicht werden dürfen, ein Kompromiss, den andere Branchen so explizit bislang nicht eingehen. Und viertens: Wo die externe Kontrolle noch fehlt, wie aktuell in weiten Teilen der Finanzbranche und im Recht, entsteht die größte Unsicherheit nicht durch die Technologie selbst, sondern durch das Fehlen einer klaren, dokumentierten internen Antwort auf die Frage, wer im Zweifel eingreift.

Kritisch eingeordnet

Die vier Felder sind nicht direkt vergleichbar. Die FDA- und FAA-Zahlen betreffen in erster Linie die USA, ein europäisches Pendant über die Medizinprodukteverordnung, EASA-Vorgaben und nationale Behörden wie das deutsche BfArM folgt einer anderen, aber ähnlich strengen Logik. Die Finanzaufsicht befindet sich in einer Übergangsphase, sodass Aussagen zur BaFin-Praxis vorläufig bleiben, bis eigene Leitlinien vorliegen. Und die Zahlen zur Rechtsbranche stammen aus Befragungen mit eigener kommerzieller Schlagseite, etwa von Anbietern legaler KI-Plattformen selbst, auch wenn sich das grundsätzliche Bild einer Lücke zwischen Einsatz und Governance in mehreren unabhängigen Erhebungen wiederholt. Die Luftfahrt-Roadmaps wiederum sind Absichtserklärungen der Behörden, keine Garantien, dass die genannten Jahreszahlen tatsächlich eingehalten werden.

Wo wir bei agentivo.ai ansetzen

Die meisten Unternehmen, mit denen wir arbeiten, bewegen sich nicht in der Medizin, der Luftfahrt oder im Wertpapierhandel, aber die Grundfrage ist dieselbe: Welcher Teil eines Prozesses darf einem Agenten anvertraut werden, und wo braucht es zwingend eine Person. Genau diese Abgrenzung ist der erste Schritt, bevor bei agentivo.ai überhaupt ein Modell zum Einsatz kommt, nicht ein nachträglicher Haftungsausschluss.

Quellen und weiterführende Informationen

• STAT News: UpDoc cleared by FDA as generative AI raises questions, Juli 2026
• IntuitionLabs: FDA Clears First LLM as a Medical Device, Juli 2026
• Nature Medicine: On-premise medical AI agents for reliable clinical decision-making, September 2026
• EASA: Artificial Intelligence Roadmap 2.0, 2023
• AviNews: AI Enters General Aviation Cockpits, September 2026
• CNBC: JPMorgan Chase AI: Bank to deploy more powerful agents this year, Juni 2026
• Taylor Wessing: BaFin-Aufsicht für KI-Verordnung, August 2026
• The Legal Stack: The Legal AI Agentic Deployment Readiness Report 2026, Juni 2026
• GC AI: AI Agents for Lawyers, September 2026
• American Bar Association: Introduction to Agentic AI for Lawyers, März 2026