Turing-Test bestanden

Update 2016: Ich habe noch einmal das Originalpapier zum Turingtest (in Mind 1950) gelesen und gesehen, dass die Definition des Tests härter ist als der hier bestandene: Eigentlich müssen der Computer und ein Mensch (identifiziert als "ein Mann A und eine Frau B") beide im gleichen Raum sein, also aufeinander eingehen und gleichzeitig schreiben können, und der Prüfer C muss sie auch zu dem jeweils anderen befragen können (der Mensch könnte z.B. sagen "ich bin alleine hier" — der Computer aber auch). A. M. Turings Gedanken waren damit selbst dem heutigen Stand noch weit voraus: "Was passiert, wenn ein Computer die Rolle von A übernimmt? Wird der Prüfer ähnlich oft falsch liegen […]?".

Allerdings hat er wohl nicht vorhergesehen, dass schon die schwächere Version, die hier geknackt wurde, nicht zu unterschätzenden gesellschaftlichen Sprengstoff enthält, weil heute viele Leute einen signifikanten Teil ihrer Zeit mit Leuten reden, die ihnen im Endeffekt unbekannt sind.

Am Sonntag hat ein Chatbot den Turing-Test bestanden.

Die Universität von Reading hat den Wettbewerb zum 60. Todestag von Alan Turing ausgerichtet.

Einer von 3 Prüfern hat dabei den Chatbot in einer 5-minütigen Diskussion über Text (Chat) für einen Menschen gehalten. Er gibt sich als 13-jähriger Ukrainischer Junge aus.

Was das bedeutet: Wenn 5 Minuten im Chat möglich sind, sind Twitter und Kommentare ein Klacks. Wir können nichtmehr darauf vertrauen, dass echt klingende kurze Texte von Menschen kommen. Und auch nicht darauf, dass wir die Wahrheit herausfinden können, indem wir Kommentierer persönlich anschreiben.

Das öffnet vielen Arten der Manipulation unserer Gesellschaft Tür und Tor. Ist der feindselige Kommentator auf deiner Seite ein Mensch, der seine eigene Lebenszeit verschwendet, oder ist es ein Computer, der so nebenbei unliebsame Leute terrorisiert? Ob der Versuch solcher Manipulationen Paranoia ist, müssen wir dank Snowden nicht mehr fragen: Operation JTRIG macht genau das: Zersetzen von sozialen Gruppen.

“Deny / Disrupt / Degrade / Deceive” — The Art of Deception

Mit Chatbots ist das noch viel einfacher, weil man dann keine Menschen dafür bezahlen muss, die sich dabei selbst in der angegriffenen Gruppe verstricken können.

Noch können wir die Identität per Telefon prüfen, aber auch das ließe sich leicht abfangen (dann ist kurzzeitig ein Schauspieler am Telefon und danach macht wieder der Rechner weiter). Damit sind die Kosten für persönlich-wirkende Einflussnahme so gering, dass alle mit etwas Resourcen sie nutzen können und damit jegliche Online-Diskussionen in ihrem Sinne beeinflussen können. Das sind dann nicht mehr nur Geheimdienste, sondern auch große Firmen, Lobbygruppen, Sekten und viele mehr.

In Zukunft gilt also: Um zu wissen, ob jemand wirklich ein Mensch ist, müssen wir ihn oder sie persönlich kennen. Und das ruiniert eine der großen Stärken des Internets: Fremde können zusammenarbeiten.