https://www.spektrum.de/video/softwares ... st/1685364

Im Artikel Saarländische Spitzenforschung Diese Programme erklären sich selbst liest man ganz am Schluss (Zitat): Und wenn es selbsterklärende Software schon vor zehn Jahren gegeben hätte, wäre höchstwahrscheinlich der Abgasskandal um den Dieselmotor vermieden worden, sagt der Informatiker der Saar-Uni. Der sei ja nur möglich gewesen, weil eine hinterlistig programmierte Motorsteuerung die offiziellen Testprozeduren auf den Prüfständen austricksen konnte. „Eine selbsterklärende Motorsteuerung hätte ihre Tricks nicht verheimlichen können.“
https://www.saarbruecker-zeitung.de/saa ... d-34732051
Doch: Eine selbsterklärende Software kann nur dann ihre Tricks nicht verheimlichen, wenn sie nicht von menschlichen Programmierern geschrieben wurde. Sobald der Mensch Zugang hat (und damit auch der Chef des Menschen, der programmiert), werden alle denkbaren Tricks möglich. Die selbsterklärende Software lügt dann einfach und schafft es damit noch besser etwas zu vertuschen.

Tatsächlich ist ja ein Einwand gegen selbst erklärende Software gerade die, dass der Anwender zu etwas überredet werden kann, was er gar nicht überschaut. Dies liest sich im scilogs-Beitrag Die Diskussion um Gestaltung des technologischen Fortschritts am Beispiel der Künstlichen Intelligenz – Zu den neusten Vorschlägen der High Level Expertengruppe der EU-Kommission so:

Ein Kritikpunkt, den auch Yogeshwar vorbringt, behandelt das von der Expertengruppe geforderte Prinzip der „Erklärbarkeit“ von KI gelieferter Wirkungen. Versteckt sich hinter dieser Erklärbarkeitsforderung, die dadurch erreicht werden soll, dass der Nutzer ein „informiertes Einverständnis“ gibt, vielleicht eine Hintertür für die KI-Entwickler, fundamentale Prinzipien der Menschenwürde auszuhebeln, zum Beispiel indem man dem Nutzer Erklärbarkeit vorspielt, um sein Einverständnis zu erhaschen? Drückt dieser dann die „Okay“-Taste, wäre der KI-Entwickler nicht nur juristisch, sondern auch ethisch aus dem Schneider, schliesslich hat der Nutzer den Erklärungen ja zugestimmt!
Zitat