Einzelnen Beitrag anzeigen
Alt 22.03.2023, 22:39   #507
y2jforever
Genickbruch
 
Registriert seit: 13.04.2013
Beiträge: 15.496
Zitat:
Zitat von Humppathetic Beitrag anzeigen
Das erinnert mich daran, dass ein anderes Programm mit genügend Informationen gefüttert wurde, um selbstständig Auto fahren zu können. Blöderweise haben die Entwickler das Programm bei menschlichen Hindernissen, die möglichst nicht überfahren werden sollten, nur mit hellhäutigen Menschen gefüttert, wodurch es Andersfarbige nicht als Hindernis wahrnahm und überfahren hätte, wäre es tatsächlich gefahren.
Das ist tatsächlich ein Problem. Also das man einen (bewussten oder unbewussten) Bias hat und auf den "falschen Daten" lernen lässt. Ein etwas weniger makaberes Beispiel ist, dass die KI Flugzeuge lernen sollte. Also sagen sollte: ist auf dem Bild ein Flugzeug oder nicht. Dazu gibt man der KI quasi eine große Menge an Bildern vor die immer gelabelt sind mit "Flugzeug drauf" oder "kein Flugzeug drauf" und die KI "guckt" sich die alle an und sucht halt Gemeinsamkeiten der Bilder mit Flugzeugen drauf. Das hat dann richtig gut geklappt bis es in die Praxis ging. Die KI hat Flugzeuge am Himmel immer erkannt solche am Boden nicht weil in den Trainigsdaten nur Flugzeuge im Flug drauf waren.

Probleme dieser Art hat man halt häufiger beim autonomen fahren (und sonst auch, aber das ist halt ein plastisches, relevantes Beispiel wo auch klar ist das es um Menschenleben geht). Da sind unterschiedliche Wetterbedingungen oder Tag und Nacht z.B. ebenfalls problematisch. Oder Schilder zuverlässig erkennen, auch wenn sie verdreckt oder zum Teil überklebt sind. Da tritt dann das Problem mit den Fehlern wieder extrem auf. Wenn ChatGPT bei ner Matheaufgabe jedes 10. Mal ne falsche Lösung rausgibt ist das vermutlich egal. Wenn beim autonomen Fahren jeder Millionste Fussgänger nicht erkannt wird ist das sehr, sehr problematisch.

Und wo wir gerade beim Thema sind: Ubisoft will für seine Spiele Dialoge von der KI schreiben lassen. Gut das Ubisoft in weiser Voraussicht alle fähigen Dialogautoren schon vor Jahren gefeuert hat
__________________
"Remember - hate is always foolish ... and love, is always wise. Always try, to be nice and never fail to be kind" - The 12th Doctor
"Und an der Spitze dieser Melange aus Selbstmitleid, Ignoranz und simplem Schwachsinn: Sarah Wagenknecht und Alice Schwarzer" - Philip Simon
"Planeten gibt es viele, unsere Wirtschaft nur einmal." - Die Partei

Geändert von y2jforever (22.03.2023 um 22:48 Uhr).
y2jforever ist offline   Mit Zitat antworten