Inhalt
- Gefeuert von der Maschine
- Automatisierung und Arbeitsunterbrechung
- Keine Bugs, kein Stress - Ihre schrittweise Anleitung zur Erstellung lebensverändernder Software, ohne Ihr Leben zu zerstören
- Anwendungen aus der Unterhaltungselektronik
- Die Kontrolle wiedererlangen
- Wie es funktionieren könnte
Quelle: Artinspiring / Dreamstime.com
Wegbringen:
Damit die Automatisierung mit und für die Menschheit funktioniert und nicht dagegen, brauchen wir Schutzmaßnahmen und informierte Menschen, die befugt sind, einen Systemfehler zu stoppen oder zu beheben.
"Irren ist menschlich; Um Dinge wirklich zu verschmutzen, ist ein Computer erforderlich. “Diese Beobachtung machte William E. Vaughan bereits im Jahr 1969. Die Kontrolle über ein automatisiertes System kann dazu führen, dass das System schief geht und ernsthafte Schäden verursacht, bevor es überprüft wird.
Automatisierung ist nicht neu, aber dank der Integration digitaler und physischer Systeme weit verbreitet. Die Vorteile der Automatisierung im Maßstab liegen in der hohen Effizienz. Der Nachteil bei der Verwendung eines Set-It-and-Forget-It-Systems ist jedoch, dass jemand es möglicherweise nicht richtig einstellt.
Mit einem System, das einfach ohne Eingreifen und ohne die Möglichkeit, die Maschine anzuhalten, durchkommt, können Sie zerstörerische Auswirkungen haben. Dementsprechend kann die Technik die Situation schaffen, die in „The Sorcerer's Apprentice“ dargestellt ist, wenn das, was das Leben zu erleichtern scheint, tatsächlich außer Kontrolle gerät.
Gefeuert von der Maschine
Automatisierung ohne Eingreifen hat dazu geführt, dass ein Techniker im Vereinigten Königreich im vergangenen Jahr ohne Grund aus einem Job ausgeschieden ist. Ibrahim Diallo bemerkte, dass seine Sicherheitsüberprüfungskarten bei der Arbeit nicht funktionierten und stellte fest, dass er arbeitslos war. „The Machine Fired Me“ ist der Titel, den er seinem erweiterten Blogbeitrag für die Veranstaltung gab.
Letztendlich war die Ursache für die Beendigung von Diallo keine Einschätzung des Algorithmus, die bestimmte, wer beseitigt werden sollte. Das Problem lag nicht im System, sondern im menschlichen Versagen. In diesem Fall handelte es sich um die automatische Antwort auf das Versäumnis eines Menschen, die Vertragsverlängerungsinformationen von Diallo einzugeben.
Es ist nicht so, dass die Maschine entschieden hätte, dass er für etwas bestimmtes gefeuert werden sollte. Es wurden einfach die darin programmierten Schritte für jemanden ausgeführt, dessen Status sich als nicht mehr erwerbstätig herausstellte. Wie er in den Kommentaren klarstellt, handelt es sich nicht wirklich um KI, sondern um „automatisiertes Skript“. (Informationen darüber, wie KI in Unternehmen helfen kann (anstatt zu schaden), finden Sie unter Was KI für das Unternehmen tun kann.)
Automatisierung und Arbeitsunterbrechung
Diese Art von Effekt ist nicht genau das, was die Leute sich vorstellen, wenn sie die wunderbaren Vorteile beschreiben, die wir in einer automatisierten Zukunft erwarten können. Die üblichen optimistischen Aussichten für eine Verlagerung von Arbeitsplätzen, da Aufgaben von der Automatisierung übernommen werden, werden neu definiert und nicht von automatisierten Systemen beendet. In der Realität werden jedoch einige Arbeitsplätze wegfallen, und die Personen, die sie innehatten, werden nicht unbedingt in der Lage sein, nahtlos in die neuen Karrieren in einer weitgehend automatisierten Branche überzugehen.
Die Störung des Arbeitsplatzes ist eines der kleineren Risiken, die Elon Musk für den Aufstieg der KI ins Auge gefasst hat, obwohl seine eigene Sicht der Auswirkungen auf den Arbeitsplatz weitaus pessimistischer ist als die von Fitzgerald. Nach Ansicht von Musk muss die KI streng reguliert werden, da sie "ein grundlegendes existenzielles Risiko für die menschliche Zivilisation darstellt".
Keine Bugs, kein Stress - Ihre schrittweise Anleitung zur Erstellung lebensverändernder Software, ohne Ihr Leben zu zerstören
Sie können Ihre Programmierkenntnisse nicht verbessern, wenn sich niemand um die Softwarequalität kümmert.
Anwendungen aus der Unterhaltungselektronik
Trotz seiner eigenen technischen Qualifikationen sagen einige Experten auf diesem Gebiet wie Rodney Brooks, der als Gründungsdirektor des MIT für Informatik und künstliche Intelligenz fungierte und Mitbegründer von iRobot und Rethink Robotics war, dass Musk in Bezug auf die Bedrohung durch KI und die Robotik falsch liegt tatsächlich betreiben.
In einem Interview mit TechCrunch wies Brooks darauf hin, dass es töricht ist, Vorschriften zu fordern, ohne dass die Technik bis zu dem Punkt ausgereift ist, an dem wir genau identifizieren können, was geregelt werden muss. Er forderte Musk auf: "Sag mir, welches Verhalten willst du ändern, Elon?"
Brooks räumte ein, dass Roboter Jobverschiebungen verursachen werden. Er glaubt aber auch, dass es möglich ist, das Paradigma in der Industrie dahingehend zu ändern, dass es dem der Unterhaltungselektronik folgt.
Im TechCrunch-Interview formulierte er Folgendes: „Wir haben eine Tradition in der Herstellung von Geräten, die schreckliche Benutzeroberflächen aufweisen, und es ist schwierig, Kurse zu belegen. In der Unterhaltungselektronik haben wir die Maschinen, die wir verwenden, dazu gebracht, die Menschen zu unterrichten wie man sie benutzt. “
Das ist, was er sagte, sollte das Ziel sein, die Art und Weise zu ändern, in der wir uns mit „Industrieausrüstungen und anderen Arten von Ausrüstungen“ befassen, damit die Maschinen den Menschen den Umgang mit ihnen beibringen.
Die Kontrolle wiedererlangen
Was Brooks vorschlägt, weist möglicherweise auf eine Lösung des Problems menschlicher Fehler hin, die den automatisierten Prozess auslöst, der außer Kontrolle zu geraten scheint. Um auf Mickeys Missgeschick in "The Sorcerer’s Apprentice" zurückzukommen, das Problem rührt alles von der Person her, die das System aktiviert, aber keine wirkliche Möglichkeit hat, mit ihm zu kommunizieren, um es zum Stoppen zu bringen oder die Richtung zu ändern.
Wenn die Schnittstelle jedoch eher nach dem Vorbild der Unterhaltungselektronik als nach traditionellen Industriemodellen hergestellt wird, kann sie die Kontrolle buchstäblich wieder in die Hände von Menschen legen. Um wirklich effektiv zu sein, muss die Benutzeroberfläche nicht nur zugänglich sein, sondern auch so gestaltet sein, dass die Benutzer über die aktuellen Ereignisse auf dem Laufenden gehalten werden und Informationen zu den erhaltenen Aktualisierungen und den ergriffenen Maßnahmen bereitgestellt werden.
Wie es funktionieren könnte
Im Falle der versehentlichen Kündigung von Diallo würde dies bedeuten, dass das automatisierte System ihn nicht einfach aus dem System ausschließt und seinem Personalvermittler mitteilt, dass er gekündigt wurde. Es würde zunächst erkannt, dass die Vertragsverlängerung nicht zum erwarteten Zeitpunkt erfolgte. Bevor Kündigungsmaßnahmen eingeleitet werden, wird der Manager und Personalvermittler über die mangelnde Erneuerung und die Konsequenzen informiert, die sich innerhalb eines Tages ergeben würden, wenn keine Maßnahmen ergriffen werden.
Diese Art von Warnung würde es den Menschen ermöglichen, fundierte Entscheidungen darüber zu treffen, ob die Automatisierung fortgesetzt oder eingegriffen werden soll, um das menschliche Versagen zu beheben, das die ursprüngliche Ursache des Problems war. Aber die Leute müssen auch ihren Teil dazu beitragen, auf die Warnung reagieren und die richtigen Maßnahmen ergreifen. Mit anderen Worten, die Antwort auf die Frage, die Brooks zum Verhalten stellte, gilt für den Menschen. Sie müssen angesichts der Automatisierung weniger passiv sein. (Weitere Informationen dazu, wie Menschen und Maschinen kooperativ arbeiten können, finden Sie unter Kanalisierung des menschlichen Elements: Richtlinien, Verfahren und Prozesse.)
Wie Diallo im Kommentarbereich seines Blogs schrieb, war der Grund dafür, dass sich die Leute weigerten, gegen die Maschine vorzugehen:
Eine andere Sache, die übersehen wird, ist, dass, obwohl jeder wusste, dass es ein menschlicher Fehler war, der ihn auslöste, und dass es nur ein Fehler war, sie beschlossen, dem s zu folgen. Es ist, als würde man im Krankenhaus ein "Rauchen erlaubt" -Schild anbringen, und die Leute respektieren das Schild, anstatt den gesunden Menschenverstand zu verwenden.
Dementsprechend müssen wir zwei Richtlinien anwenden, damit die Automatisierung mit und für die Menschheit funktioniert und nicht dagegen: Auf der Maschinenseite benötigen wir Schnittstellen, die zugänglich und informativ sind, und auf der Menschenseite müssen wir Menschen sein Ermöglicht das Erkennen, wenn etwas nicht stimmt, und das Eingreifen, um es zu korrigieren.