Inhalt
Präsentiert von: AltaML
Q:
Warum denken einige Unternehmen darüber nach, moderne KI-Systeme mit "Human Feedback Controls" auszustatten?
EIN:
Einige Unternehmen, die mit modernster KI-Technologie arbeiten, arbeiten daran, menschliche Kontrollen für diese Systeme einzurichten, um maschinellem Lernen und Deep-Learning-Tools eine direkte menschliche Kontrolle zu ermöglichen. Auch diese Unternehmen sind keine kleinen Unternehmen - Googles DeepMind und Elon Musks OpenAI sind zwei Beispiele für große Unternehmen, die sich intensiv mit Fortschritten im Bereich der künstlichen Intelligenz befassen. In diesem Sinne unterscheiden sich die Ergebnisse - DeepMind war beispielsweise Gegenstand von Kontroversen wegen seiner vermeintlichen mangelnden Bereitschaft, der Öffentlichkeit wichtige Daten zur Verfügung zu stellen, während OpenAI viel mehr ist, na ja, öffnen über seine Arbeit zur Kontrolle der künstlichen Intelligenz.
Sogar solche Persönlichkeiten wie Bill Gates haben in dieser Frage eine Rolle gespielt und Gates sagte, dass er einer von vielen ist, die sich Sorgen über die Entstehung einer künstlichen Superintelligenz machen, die sich in gewisser Weise der menschlichen Kontrolle entziehen könnte. Moschus seinerseits hat auch eine alarmierende Sprache über die Möglichkeit einer „Schurken-KI“ geäußert.
Dies ist wahrscheinlich der dringlichste Grund, warum Unternehmen daran arbeiten, menschliche Kontrolle auf KI anzuwenden - die Idee, dass eine gewisse technologische Singularität zu einer überaus leistungsfähigen fühlenden Technologie führt, die Menschen einfach nicht mehr kontrollieren können. Seit Anbeginn menschlicher Ambitionen haben wir Instrumente eingeführt, um sicherzustellen, dass wir die Kräfte kontrollieren können, die wir ausüben - ob es Pferde mit Zügeln und Gurten, Elektrizität in isolierten Drähten oder irgendeine andere Art von Kontrollmechanismus sind Kontrolle ist von Natur aus eine menschliche Funktion, und deshalb ist es in der Welt durchaus sinnvoll, dass Menschen, wenn künstliche Intelligenz der realen Funktionalität näher kommt, ihre eigenen direkten Kontrollen anwenden, um diese Macht in Schach zu halten.
Die Angst vor superintelligenten Robotern ist jedoch nicht der einzige Grund, warum Unternehmen menschliche Kontrollen für maschinelles Lernen und KI-Projekte anwenden. Ein weiterer wichtiger Grund ist die Verzerrung der Maschine - dies ist die Idee, dass Systeme mit künstlicher Intelligenz häufig in der Bewertung der fraglichen Daten eingeschränkt sind -, um die systembedingte Verzerrung zu verstärken. Die meisten Fachleute, die sich mit maschinellem Lernen beschäftigen, können Horrorgeschichten über IT-Systeme erzählen, die nicht in der Lage waren, menschliche Benutzergruppen gleichermaßen zu behandeln - sei es das Geschlecht oder die ethnische Disparität oder ein anderes Versagen des Systems, die Nuancen unserer menschlichen Gesellschaften und Systeme wirklich zu verstehen Wie wir mit Menschen umgehen.
In gewisser Hinsicht könnten wir menschliche Kontrollen auf Systeme anwenden, weil wir befürchten, dass sie zu mächtig sind - oder alternativ, weil wir befürchten, dass sie nicht mächtig genug sind. Benutzerkontrollen helfen dabei, maschinelle Lerndatensätze gezielt zu verwenden, um mehr Präzision zu erzielen. Sie helfen dabei, Ideen zu verstärken, die der Computer von sich aus einfach nicht lernen kann, entweder weil das Modell nicht hoch genug ist, weil die KI nicht weit genug fortgeschritten ist oder weil einige Dinge nur in der Provinz der menschlichen Kognition liegen. Künstliche Intelligenz ist für einige Dinge großartig - zum Beispiel ein Belohnungs- und Punktesystem, mit dem eine künstliche Intelligenz einen menschlichen Spieler beim immens komplexen Brettspiel „Go“ besiegen kann -, für andere Dinge ist dies ein anreizbasiertes System völlig unzureichend.
Kurz gesagt, es gibt zahlreiche zwingende Gründe, menschliche Benutzer direkt an der Funktionsweise von Projekten mit künstlicher Intelligenz zu beteiligen. Selbst die besten Technologien für künstliche Intelligenz können viel für sich selbst denken - aber ohne ein tatsächliches biologisches menschliches Gehirn, das Dinge wie Emotionen und soziale Sitten verarbeiten kann, können sie das Gesamtbild einfach nicht menschlich sehen.
Ein qualifiziertes Unternehmen für maschinelles Lernen kann dazu beitragen, dieses Gleichgewicht mit einer Mischung aus Geschäfts- und Fachexperten und maschinell lernenden Entwicklern zu finden, die die Fähigkeiten besitzen, um Probleme in großen Unternehmen zu lösen.
