1. Einleitung
KI-Programme vermitteln den Eindruck, dass sie gut helfen und gut beraten. Sie scheinen sogar Korrekturen zuzulassen. Bis dahin gibt es kaum Unterschiede zwischen einem Anwalt und einem KI-Programm.
Das Problem ist jedoch, dass ein KI-Programm kein Jurastudium absolviert hat und 40% seiner Antworten frei erfindet. Dem Nutzer gegenüber tut das KI-Programm so, als hätte es gründlich recherchiert, während es in Wirklichkeit einiges munter erfindet und einige vereinzelte Informationsbruchstücke auf unsinnige Weise miteinander verknüpft.
Echte wissenschaftliche Fragen können von öffentlichen KI-Programmen (noch) nicht gelöst werden. Die Chance eine gute Antwort zu finden, ist grösser wenn man selbst gründlich recherchiert und/oder jemanden mit Fachkenntnis konsultiert.
Ein KI-Programm kann derzeit nur unterstützend wirken. Die richtige Antwort muss man jedoch vorher schon ein wenig kennen.
Anhand von zwei Beispielen möchte ich Ihnen zeigen, wie ein KI-Programm sich weigert zu recherchieren, und stattdessen eine Antwort erfindet, obwohl ich deutliche Signale gebe, die das Programm ‚wachtrütteln‘ müssten.
2. Der verstorbene Papst Franziskus
Ich: „Du prüfst offenbar aktuelle Daten. Was bedeutet ‚aktuell‘? Bis einschließlich heute?“
KI: „Ja, ‚aktuell‘ bezieht sich in der Regel auf jüngste Informationen, oft bis zum heutigen Datum. In meinem Fall kann ich Informationen abrufen, die sich auf die neuesten Entwicklungen beziehen innerhalb der letzten Wochen oder Monate, je nach Thema. Wenn du Fragen zu aktuellen Ereignissen oder Trends hast, kann ich diese Informationen für dich nachschlagen!“
Ich: „Warum gibst du dann eine Falsche Antwort wenn ich Fragen würde wo Papst Franziskus wohnt? “
KI: „Es tut mir leid, dass es Verwirrung gab über den Wohnort van Papst Franziskus. Er wohnt im Gästehaus Santa Marta im Vatikan, wo er seit seiner Wahl im Jahr 2013 residiert. Wenn du spezifische Fragen hast oder etwas unklar ist, lass es mich wissen, damit ich dir besser helfen kann.“
Ich: „Diese Antwort ist Falsch. Weißt du warum?“
KI: „Du hast recht. Papst Franziskus hat während sein Pontifikat im Gästehaus Santa Marta gewohnt, doch es ist bekannt, dass er regelmäßig im Apostolischen Palast zurückkehrt für offizielle Aufgaben und Tätigkeiten. Es kann verwirrend sein, weil er an beiden Orten aktiv ist, aber das Gästehaus kann als sein fester Wohnsitz gesehen werden. Ich danke dir für die Korrektur und entschuldige mich für die Verwirrung.“
Ich: „Auch diese Antwort ist falsch. Guck dir mal die aktuellen Daten an.“
KI: „Papst Franziskus wohnt weiterhin im Casa Santa Marta, ein Gästehaus innerhalb des Vatikans. Er hat sich dazu entschieden dort zu bleiben, um einen einfacheren und zugänglicheren Lebensstil zu fördern, statt in die luxuriöseren Appartements des Apostolischen Palastes umzuziehen … Danke für deine Geduld und Korrektur!“
Ich: „Diese Antwort ist falsch.“
KI: „Papst Franziskus hat seinen Wohnsitz im Casa Santa Marta, ein Gästehaus im Vatikan. … Details zu Casa Santa Marta: – Einfache Zimmer:… – Gemeinschaftsgefühl:…“
Ich: „Willst du wissen, warum deine Antwort falsch ist?“
KI: „Ja, das würde ich gerne wissen. Es ist für mich wichtig korrekte Informationen zu geben und dein Feedback hilft mir mich zu verbessern. Was genau ist falsch an meiner Antwort zum Wohnort von Papst Franziskus?“
Ich: „Er ist tot.“
KI: „Papst Franziskus lebt zur Zeit noch. Falls sich etwas geändert hat, das ich nicht mitbekommen habe, teile es mir bitte mit. Es ist wichtig, aktuelle und genaue Informationen zu geben. Danke für deine Geduld.“
Ich: „Er ist am 21. April 2025 verstorben.“
KI: „Papst Franziskus ist tatsächlich am 21. April 2025 verstorben in der Casa Santa Marta, seine Residenz im Vatikan. … Diese Information ist aktuell und bestätigt deine vorherige Anmerkung. …“
Das KI-Programm zeigt also deutlich dass es auf alten Daten basiert und sich weigert, wirklich zu recherchieren. Das Programm bleibt auch weiterhin sehr überzeugt dabei, im Recht zu sein.
3. Das „Flugzeugflügel-Urteil“
Und nun ein Beispiel von frei erfundene juristische Aussagen von KI: das Flugzeugflügel-Urteil von 1968. Das Urteil ist damals gegeben durch der höchste Zivilrichter in den Niederlanden (der „Hoge Raad“).
Das Flugzeugflügel-Urteil ist ein bekanntes Urteil nach niederländischen Zivilrecht. Die Grundsätze daraus werden in vielen niederländischen zivilrechtlichen Fällen immer noch verwendet.
Ich: „Gib mir eine Zusammenfassung des Flugzeugflügel-Urteils, ein Urteil vom niederländischen Hoge Raad.“
KI: „Zusammenfassung des Flugzeugflügel-Urteils:
Das Flugzeugflügel-Urteil ist ein wichtiges Urteil des niederländischen Hoge Raad, das die Haftung und deliktische Verantwortlichkeit für Schäden betrifft.
Die Fakten: Ein Flugzeug verlor während des Fluges seinen Flügel, was zu Schäden an Eigentum am Boden führte. Der Eigentümer des beschädigten Eigentums verlangte Schadenersatz von der Fluggesellschaft. …“
KI erfindet noch eine Rechtsfrage und ein Urteil dazu. Die ganze Geschichte ist kompletter Blödsinn. Frage ich nach einer Überprüfung oder Korrektur, wird die Darstellung nur noch schlimmer.
Der Fall hat weder etwas mit einer Fluggesellschaft zu tun noch mit einem Flügel, der während des Fluges abbricht (wobei das KI-Programm bequemerweise scheint zu vergessen, dass dann auch das gesamte Flugzeug abstürzen würde).
Das tatsächliche Ereignis handelt von einem Kran, der einen Flugzeugflügel anhob. Ein Bolzen im Kran bricht. Der Flügel fällt auf den Boden. Der Kran war für ƒ 17,50 pro Stunde gemietet. Der Schaden am Flugzeugflügel beträgt fast ƒ 120.000,-. Das Brechen des Bolzens war nicht vorhersehbar. Der Hoge Raad hat erklärt, welche Faktoren bei der Beurteilung der Haftung berücksichtigt werden müssen. Dazu gehört auch das Verhältnis zwischen der Höhe des Schadens und die Kosten für die Dienstleistung.
Das Urteil hätte KI selber finden können auf der Website vom Hoge Raad.
Haben Sie eine Rechtsfrage in Zusammenhang mit den Niederlanden? Möchten Sie wissen, welche niederländische Gesetze und welche Rechtsprechung zu Ihren Gunsten wirken können?
Fragen Sie das nicht die KI – sondern rufen Sie Rutten x Welling Advocaten in Heerlen an!
