(Juri Parmenow/iStock) Ich kann mich noch an meine Überraschung erinnern, als ein Buch des Evolutionsbiologen Peter Lawrence mit dem Titel „ Die Entstehung einer Fliege Der Preis lag bei Amazon bei 23.698.655,93 US-Dollar (zzgl. 3,99 $ Versand).
Während meine Kollegen auf der ganzen Welt ziemlich deprimiert gewesen sein müssen, dass ein wissenschaftliches Buch eine solche Leistung vollbringen konnte, war der hohe Preis tatsächlich das Ergebnis davon, dass sich Algorithmen gegenseitig nährten und außer Kontrolle gerieten. Es stellte sich heraus, dass nicht nur die Vertriebsmitarbeiter kreativ waren: Algorithmen hatten das Sagen.
Dieses auffällige Beispiel wurde entdeckt und korrigiert. Was aber, wenn solche algorithmischen Störungen ständig auftreten, auch auf eine Weise, die wir gar nicht bemerken? Wenn unsere Realität zunehmend durch Algorithmen konstruiert wird, wo bleiben uns Menschen dann?
Inspiriert von solchen Beispielen, mein Kollege Prof. Allen Lee und ich habe mich kürzlich daran gemacht, die tieferen Auswirkungen der algorithmischen Technologie zu erforschen in einem Papier im Zeitschrift der Association for Information Systems .
Unsere Untersuchungen führten uns zu dem Schluss, dass sich die Rollen von Informationstechnologie und Menschen im Laufe der Zeit vertauscht haben. Früher nutzten wir Menschen Technologie als Werkzeug. Mittlerweile ist die Technologie so weit fortgeschritten, dass sie uns nutzt und sogar kontrolliert.
Wir Menschen sind nicht nur von den Entscheidungen abgeschnitten, die Maschinen für uns treffen, sondern werden von ihnen auch auf unvorhersehbare Weise stark beeinflusst. Anstatt im Mittelpunkt des Entscheidungssystems zu stehen, das uns betrifft, werden wir in seine Umgebung verstoßen.
Wir haben unsere eigene Entscheidungsfähigkeit zunehmend eingeschränkt und Algorithmen die Macht überlassen. Wir sind zu künstlichen Menschen oder menschlichen Artefakten geworden, die durch die Technologie geschaffen, geformt und genutzt werden.
Beispiele gibt es zuhauf. Vor dem Gesetz, Rechtsanalysten werden nach und nach ersetzt von künstliche Intelligenz , was bedeutet, dass die erfolgreiche Verteidigung oder Strafverfolgung eines Falles teilweise auf Algorithmen beruhen kann.
Software ist es sogar erlaubt zukünftige Kriminelle vorhersagen , die letztendlich die menschliche Freiheit kontrolliert, indem sie festlegt, wie Gefangenen Bewährung verweigert oder gewährt wird. Auf diese Weise wird der Geist der Richter von Entscheidungsmechanismen geprägt, die sie aufgrund der Komplexität des Prozesses und der Menge an Daten, die er umfasst, nicht verstehen können.
Auf dem Arbeitsmarkt hat die übermäßige Abhängigkeit von Technologie einige der größten Unternehmen der Welt in die Irre geführt um Lebensläufe per Software zu filtern Das bedeutet, dass menschliche Personalvermittler niemals einen Blick auf die Daten einiger potenzieller Kandidaten werfen. Dies führt nicht nur dazu, dass der Lebensunterhalt der Menschen den Maschinen ausgeliefert ist, es kann auch zu Einstellungsverzerrungen führen, die das Unternehmen nicht umsetzen wollte passierte mit Amazon .
In den Nachrichten, was als bekannt ist automatisierte Stimmungsanalyse analysiert positive und negative Meinungen über Unternehmen anhand verschiedener Webquellen. Diese werden wiederum von Handelsalgorithmen genutzt, die automatisierte Finanzentscheidungen treffen, ohne dass Menschen die Nachrichten tatsächlich lesen müssen.
Unbeabsichtigte Konsequenzen
Tatsächlich spielen Algorithmen, die ohne menschliches Eingreifen funktionieren, mittlerweile eine bedeutende Rolle auf den Finanzmärkten. Zum Beispiel, 85 Prozent des gesamten Handels auf den Devisenmärkten wird allein durch Algorithmen gesteuert.
Das Wachstum Algorithmisches Wettrüsten Immer komplexere Systeme zu entwickeln, um auf diesen Märkten wettbewerbsfähig zu sein, bedeutet, dass riesige Geldsummen entsprechend den Entscheidungen von Maschinen bereitgestellt werden.
Im Kleinen haben die Menschen und Unternehmen, die diese Algorithmen erstellen, die Möglichkeit, Einfluss darauf zu nehmen, was sie tun und wie sie es tun.
Da ein Großteil der künstlichen Intelligenz jedoch darin besteht, Software zu programmieren, um herauszufinden, wie eine Aufgabe selbst erledigt werden kann, tun wir das oft Ich weiß es nicht genau, was hinter der Entscheidung steckt. Wie bei jeder Technologie kann dies zu unbeabsichtigten Konsequenzen führen, die weit über alles hinausgehen, was sich die Designer jemals vorgestellt haben.
Nehmen Sie den „Flash Crash“ des Dow Jones Industrial Average Index im Jahr 2010. Die Wirkung von Algorithmen trug dazu bei, dass der Index den größten Rückgang in seiner Geschichte verzeichnete. fast 9 Prozent abwischen seinen Wert innerhalb von Minuten verloren (obwohl er am Ende des Tages den größten Teil davon wiedererlangt hat). A fünfmonatige Untersuchung konnte nur andeuten, was den Abschwung auslöste (und diverse andere Theorien wurde vorgeschlagen ).
Aber die Algorithmen, die die anfänglichen Probleme verstärkten, machten keinen Fehler. Es gab keinen Fehler in der Programmierung. Das Verhalten entstand aus dem Zusammenspiel von Millionen algorithmischer Entscheidungen, die auf unvorhersehbare Weise gegeneinander spielten und ihrer eigenen Logik folgten, was zu einer Abwärtsspirale für den Markt führte.
Die Voraussetzungen dafür waren gegeben, weil die Menschen, die das Handelssystem leiteten, im Laufe der Jahre menschliche Entscheidungen als Hindernis für die Markteffizienz betrachteten. Im Jahr 1987, als der US-Aktienmarkt um 22,61 Prozent einbrach, griffen einige Wall-Street-Broker einfach nicht mehr zum Telefon, um den Anweisungen ihrer Kunden zum Aktienverkauf zu entgehen.
Damit begann ein Prozess, der, wie der Autor Michael Lewis es in seinem Buch ausdrückte Flash-Jungs , „hat damit geendet, dass Computer die Menschen vollständig ersetzt haben“.
Die Finanzwelt hat Millionen in superschnelle Kabel und investiert Mikrowellenkommunikation um die Geschwindigkeit, mit der Algorithmen ihre Anweisungen übertragen können, nur um Millisekunden zu verkürzen. Wenn Geschwindigkeit so wichtig ist, ist ein Mensch, der gewaltige 215 Millisekunden benötigt, um auf eine Schaltfläche zu klicken, fast völlig überflüssig.
Unser einziger verbleibender Zweck besteht darin, die Algorithmen jedes Mal neu zu konfigurieren, wenn das System technologischer Entscheidungen versagt.
Da neue Grenzen zwischen Mensch und Technologie gezogen werden, müssen wir sorgfältig darüber nachdenken, wohin uns unsere extreme Abhängigkeit von Software führt. Da menschliche Entscheidungen durch algorithmische Entscheidungen ersetzt werden und wir zu Werkzeugen werden, deren Leben von Maschinen und ihren unbeabsichtigten Konsequenzen geprägt wird, bereiten wir uns auf die technologische Vorherrschaft vor.
Wir müssen, solange wir noch können, entscheiden, was dies für uns als Individuen und als Gesellschaft bedeutet. 
Dionysios Demetis , Dozent für Managementsysteme, Universität Hull .
Dieser Artikel wurde erneut veröffentlicht von Die Unterhaltung unter einer Creative Commons-Lizenz. Lies das originaler Artikel .
Die in diesem Artikel geäußerten Meinungen spiegeln nicht unbedingt die Ansichten der Energyeffic-Redaktion wider.