*34C3 Vorspannmusik*
Herald: So und jetzt begrüßt bitte Rainer, ein Informatiker, ein Philosoph, der mit
uns darüber reden wird, was die Informatik nicht kann.
*Applaus*
R: Herzlichen Dank für diese knappe konzise Einführung. Genau, ich will heute
sprechen über die göttliche Informatik, man kann das "göttliche" natürlich auch in
Gänsefüßchen stellen. Ich ... das ist so ein bisschen Experiment, wo ich so ein
paar Sachen mal zusammenbringen will. Wenn ihr nach dem Talk rausgeht und sagt "Die
eine Hälfte wusste ich schon, bei der anderen Hälfte war alles komplett falsch,
aber diesen einen Gedanken, den fand ich spannend", dann habe ich meine Mission
heute erfüllt. Werden wir mal sehen, wie wir das hinkriegen. Ich find's immer ganz
wichtig zu wissen, wenn man jemanden hat, der da vorne steht, zu wissen, aus welcher
Position er spricht, besonders weil wir im Politischen und Sozial-Ethischen sind. Da
kann man ja quasi mal nicht ganz neutral sprechen. Ich hab selber Philosophie und
Informatik an der Humboldt-Uni studiert, war am Lehrstuhl für Informatik und
Gesellschaft, lehre jetzt auch Datenschutz, Datensicherheit, Informatik
und Gesellschaft. In der Praxis mache ich IT-Sicherheit, Datenschutz und Linux, bin
auch aktiv im Forum "InformatikerInnen für Frieden und gesellschaftliche
Verantwortung", in der "Gesellschaft für Informatik" und bei "Amnesty
International", das so als vorneweg Disclaimer. Ich spreche aber jetzt quasi
für niemanden da. Selber, Ich hab halt Philosophie studiert, hab ein bisschen
Philosophie der Wissenschaft gemacht, Sprachphilosophie, Philosophy of Mind, hab
mich dann in die politische Philosophie begeben, hab dann mich mit Informatik
beschäftigt, hab gemerkt, "sehr interessant, da gibt es ganz schön viele
Überschneidungen" und hab jetzt einfach mal das Zitat, was hier auch am Eingang
des Saals steht, rangeworfen: "Computer sciences is no more about computers than
astronomie is about telescopes". Das heißt der Computer ist an der Stelle eben ein
Werkzeug, um Dinge zu tun, der, und dieses Werkzeug hat bestimmte Eigenschaften und
diese Eigenschaften sorgen dafür, dass man es auf bestimmte Arten verwenden kann und
auf andere Arten wiederum nicht. Ich will mal auch noch drauf hinweisen, dass
insbesondere Ada Lovelace im 18. Jahrhundert, kann man so einordnen,
Charles Babbage, die Difference Engine beim Übersetzen einer mathematischen
Maschine an der Stelle schon überlegt hatte, wenn wir mit mathematischen
Konstruktionen irgendwie Objekte aus der realen Welt darstellen könnten, dann
könnte man ja auch, wenn die Maschine mathematisch auch darauf auf diesen Zahlen
rechnet, könnte man ja auch irgendwie Objekte verarbeiten inhaltlicher Art also
es war meine eigene Literaturrecherche her so eines der ersten Überlegungen, wie man
quasi mit Computern nicht nur rechnen, sondern auch Sachverhalte irgendwie
bearbeiten kann. Ja, meine aktuelle Ausgangslage ist, dass die Informatik für
Wünsche und Sehnsüchte nach einfachen Lösungen gerade herhalten muss und ich als
Informatiker bin da so ein bisschen kritisch, welche Wünsche da herangetragen
werden und auch welche Kolleginnen und Kollegen aus meiner Zunft auch aktiv daran
mitarbeiten, diese Wünsche aufrecht zu erhalten. Man kann auch noch sagen, bei
der göttlichen Informatik - ist vielleicht ein bisschen vorgegriffen, aber die
Mathematik und die Physik und die Biologie, die haben das alles schon durch,
was die Informatik gerade so durchlebt, gerade in der Physik erinnert sich
vielleicht der eine und die andere so an Bildern, wo gerade das nukleare Zeitalter
ausgerufen wurde und selbst der Herd in der Küche wurde mit kleinen Nuklear-
Reaktoren betrieben und sozusagen das war so ein bisschen die Idee sozusagen. Da war
dann alles nuklear und das Nukleare war sozusagen die Lösung für alle Probleme.
Jetzt sprechen wir eben über das Internet, Künstliche Intelligenz, Blockchain und so
weiter. Ich hab das mal als Informatik so ein bisschen zusammengefasst. Der Vortrag
soll bestimmte Denkweisen explizieren, wie gesagt, wenn ihr sozusagen protestiert,
dann protestiert. Also, ich würde ungern mit sozusagen brennenden Holzscheiten aus
dem Haus gejagt werden. Wir können den Diskurs suchen und ich würde auch gerne
so'n paar alternative Denkweisen aufzeigen. Wie gesagt vielleicht ist die
Hälfte von euch da sowieso schon mit dabei. Mein Ziel ist es ein bisschen, in
dem Thema zu navigieren, zumindest so wie ich's sehe. Wir gucken uns erst mal kurz
im Sauseschritt die Informatik an, dann reden wir kurz über Welt-Konzepte und
Menschenbilder. Dann gibt's einen kleinen Exkurs über das Wirtschaften, dann rede
ich über unheilige Allianzen und dann die Rolle, die die Politik spielen kann oder
soll. Und dann noch eine Literatur, paar Literaturhinweise für das weitere
Interesse an dem Thema. Also die Informatik, naja also die Grundlage der
Informatik ist ja irgendwie, der Computer, also die universelle Maschine, jetzt nicht
des Gerät, sondern man könnte jetzt sagen die Turingmaschine, universell in der
Hinsicht dass sie andere Maschinen imitieren kann und dadurch Dinge ausführen
kann. Man formuliert dann irgendwie Anforderungen und schreibt dann Software,
zum Beispiel in Form von Algorithmen oder Heuristiken, um dann diese Anforderungen
umzusetzen. Das Spannende bei der Informatik ist, dass sie als Wissenschaft
dann, wenn sie das alles gebaut hat, ihre eigenen Produkte untersucht und sagt
"Hach? Wie reagiert die denn so? Ist ja interessant. Wir machen jetzt ein
Netzwerk, Messungen und wie skaliert denn das und so weiter" als so Blackbox
Testing, Whitebox Testing. Als wüsste man gar nicht, was man da gebaut hat, weil
man's tatsächlich eben nicht weiß oder wissen kann. Das heißt, an der Stelle ist
es ne interessante Mischwissenschaft, die gleichzeitig Wissen und eben auch Produkte
produziert. Und es ist eben auch ein Teil der Informatik, die eigene, die eigenen
Grundlagen zu reflektieren, was ja allgemein bei Wissenschaften "Theorie"
genannt wird. Da fällt einem erst einmal so die theoretische Informatik ein, wo es
dann so um Komplexitätstheorie geht, Effizienz, Speicherverbrauch, so
Geschichten, Datenstrukturen, Eigenschaften und so was,
Berechenbarkeits-Modelle, also was ist berechenbar, welche Art von Aussagen kann
man über Programme treffen, kann man nicht, oder welche kann man nicht treffen.
Hält ein Programm oder kann man Widerspruchsfreiheit beweisen. Das gehört
alles dazu. Aber man kann genauso bei der theoretischen, bei dem theoretischen
Aspekt gehören eben die gesellschaftlichen Konsequenzen vom Computereinsatz mit dazu.
Das nennt sich dann Informatik und Gesellschaft. Es ist immer innerhalb der
Informatik so'n bisschen der, in der Informatik-Familie der Freak, der so
quasi, quasi die schlauen Bücher liest und immer rummäkelt, so "macht doch mal
Datenbanken nicht dafür und dafür aber schon und beschränkt euch mal und denkt
mal über eure Konsequenzen nach." Aber so ist das halt. Und das Versprechen der
Informatik ist allgemein, ich werf das jetzt mal so in den Raum: Ordentlich
modulierte Probleme können informatisch bearbeitet werden und mit besserer Soft-
oder Hardware verbessern sich dann eben die Ergebnisse damit der Informatik. Und
die Produkte, also was dann zum Schluss sozusagen neben dem, neben dem Wissen, ich
lass jetzt mal sozusagen diesen wissenschaftlichen Aspekt so'n bisschen
weg. Naja, so halb. Sind eben Werkzeuge für alle möglichen Anwendungen, sind sehr
allgemein gesprochen, so was wie von Bildbearbeitung bis hin zu AlphaGo, das
würde ich da alles mit rein berechnen von globalen Datennetzen und autonomen
Fahrzeugen bis hin zu Facebook-Bots und sozusagen die Grundlage für Social
Scoring, wobei wir heute auch schon gehört haben, wer da mit dabei war. Und Klima-
Simulation genauso wie Abgasmessungen. Es hat miteinander zu tun und manche sind
ungenauer als andere. Aber das ist so, sozusagen die Bandbreite. Und die
aktuellen Verfahren, worüber ich heute so'n bisschen sprechen möchte, eher
untechnisch, ist sowas wie Künstliche Intelligenz, Maschine Learning und gerade
sowas wie trustless databases, Blockchain, wo ja die Überlegung ist, kann man das
irgendwie für Voting, Crypto currencies, smart contract und so weiter einsetzen.
Die Fragen im Vortrag, die ich so'n bisschen behandeln will, sind sozusagen
die Modelle , die die Informatik verwendet, um dann ihre Werkzeuge darauf
anzuwenden. Das heißt: was wird da wie modelliert und was sind aber auch die
Grenzen der Modellierung, was an der Stelle, so wie ich es am Anfang gesagt
habe, wenn die Informatik auf diesen mathematischen Modellen arbeitet, dann
eben auch die Grenzen der Informatik darstellt. Eine weitere Frage sind eben
die Anwendungen und ihre Folgen. Weil gerade bei informatischen Werkzeugen
findet ja ne De- und Re-Kontextualisierung statt. Das heißt man hat ja, sagen wir mal
z.B. ein Stück Software oder ein informationstechnisches System, das hat
irgendwelche Eingaben und irgendwelche Ausgaben und das kann man natürlich je
nachdem, man kann natürlich in dem Handy in nem Club sich zusammen telefonieren,
wie man nen Vortrag aufnehmen kann, wie man damit auch irgendwie zum Beispiel in
nem Sprint die Zeit nehmen kann und in ganz verschiedenen Kontexten ein...
verwenden. Allerdings sind die Verwendungs-Zusammenhänge da sehr, sehr
wichtig. Das heißt also nur mal als Beispiel polizeiliche Datenbanken sind ja
sozusagen exemplarische Schlaglichter. Es gab in Deutschland mal zum Beispiel die
politisch motivierte Straftäter-Datei links, wo unser damaliger Bundes-
Datenschutzbeauftragter Peter Schaar drauf geschaut hat und dann 90 Prozent der
dort erfassten quasi linken Gefährder gelöscht werden mussten, weil verschiedene
Leute, die die Datenbanken befüllt haben, verschiedene Kontexte damit verbunden
haben. Die einen meinten, die Sicherheitsbehörden, ja wenn die irgendwie
gegen Atomkraft demonstrieren, dann sind das schon Gefährder, und andere Behörden
haben sozusagen andere Limits angelegt. Und in dem Moment war dann diese
Datenbanken selber durch die verschiedenen Kontexte, die verwendet... wie sie
verwendet worden sind, dann im Endeffekt nutzlos, weil niemand wusste aus welchem
Grund jemand anders das befüllt hat. Beispiel Juden-Register in Holland ist
gerade als Verwendungs-Zusammenhänge. Jahrzehnte wurde damals sehr genau
Volkszählungen durchgeführt und als dann die Nazis kamen, haben sie gesagt "Ja
schön dass ihr's mal vorbereitet habt", das war ne Re-Kontextualisierung dieser
Daten, die auf alle Fälle nicht so vorgesehen war, aber die auf alle Fälle so
dann verwendet worden ist. Oder, lustige Geschichte, SAP-Einführungen, so sagt man
ja immer irgendwie, wenn SAP eingeführt wird, dann werden da drei Informatik-Leute
hingeschickt, die das installieren, und dann kommen 30 Beraterinnen und Berater,
die das Unternehmen so umstrukturieren, dass es auf die Software passt. Das ist
so'n bisschen so von wegen Re- und De-Kontextualisierung. Und danach sagt man
"Hey ist doch'n super System, passt genau zu unserer Firma." Genau, also ist die
Frage so'n bisschen, wie wird modelliert, für welche Verwendungen werden solche
Systeme gedacht und was für Eigenschaften haben die. Jetzt kommen wir zum Punkt 2:
Welt Konzepte und Menschenbilder. Ich hab ja am Anfang gesagt, die Informatik
arbeitet auf Modellen. Ja, aber Modelle sind so irgendwie... bilden so
Sachverhalte ab, sind irgendwie vereinfachte Versionen davon, so dass dann
ein Computer damit arbeiten kann. Und da haben wir im Groben auf ner ganz
abstrakten Sicht zwei Probleme. Einerseits die mathematische Modellierung von
bestimmten Sachverhalten, das heißt also zum Beispiel, wie kriegt man aus nem Bild
dann die Pixel-Werte, wie kriegt man aus Tonwellen irgendwie mit ner Abtastung,
dann haben wir irgendwie Shannons Abtasttheorie, wie kann man das, wie kann
man die Informationen irgendwie so modellieren, dass sie dann verarbeitbar
sind und das Spannendere und das ist so'n bisschen der Kern, bei dem's... um den's
bei mir hier geht, ist die Abstraktion von Merkmalen. Das heißt also, ich möchte ein
informatisches System bauen, was z.B. Menschen zusammenbringt, Freundschaften
darstellt und Kommunikationsmöglichkeiten eröffnet. Dann muss ich natürlich
modellieren; Was ist ein Mensch? Was ist ne Kommunikation? Wie können die
miteinander in Verbindung treten? Gibt es bei den Menschen zwei Geschlechter zur
Auswahl oder ist das ein Freifeld zum Beispiel? Oder nur... Es gibt nur eins,
zum Beispiel Eichhörnchen, man kann dann ja oder nein klicken oder so. Das sind ja
alles Entscheidungen, die sozusagen auf die Modellierung ne Auswirkung haben, wie
das System dann verwendet wird. Und diese Abstraktion von Merkmalen, um die mal ein
bisschen konkreter zu fassen, also wie man sozusagen das menschliche Verhalten dann
modellieren könnte, um informatische Systeme damit zu verwenden, da gibt's ein
schönes Beispiel von Nelson Goodman, Schüler von Whitehead. Der hat "Sprachen
der Kunst" geschrieben, ein Buch über so Symbol-Theorie. Und da geht es ein
bisschen damit, was kann eigentlich abgebildet werden in Modellen und er hat
so'n schönes Beispiel, wo sozusagen Ethnologinnen und Ethnologen in Papua-
Neuguinea unterwegs waren und dann haben sie halt so ein kleines kleines Foto mit
von den Hütten und gehen halt zu der ersten Familie und sagt: Was siehst du
denn hier auf diesem Stück? und die sagen so, "Ha, keine Ahnung, wissen wir nicht,
was soll denn da sein." "Ja, guck doch mal genau hin, das ist doch eure Hütte" und
dann sagen sie "Na ja, aber meine Hütte ist doch viel größer". Okay gehen sie
halt zum nächsten... zum nächsten sagen "Ja, was ist denn, was ist hier auf diesem
Foto zu sehen. Und die Größe soll keine Rolle spielen." "Ja, keine Ahnung. Wissen
wir nicht" und so weiter. "Ja, aber das ist doch deine Hütte." "Ja aber meine
Hütte ist doch nicht glatt sondern aus Holz." OK, gehn sie halt zum nächsten. "Ja
gut, was ist denn hierzu, sagt dir dieses Bild - aus der anderen Sicht ist es kein
Bild - irgendwas die Größe und das Material soll keine Rolle spielen". "Ja,
pfff, keine Ahnung." Die wussten wieder nicht Bescheid und dann kam die Aussage
eben "Ja das ist doch deine Hütte." Dann sagen Sie "Ja, aber ich kann auch in meine
Hütte reingehen, das kann ich hier nicht. Warum soll das meine Hütte sein?" An der
Stelle kann man das ein bisschen weitertreiben. Die Erkenntnis daraus war,
dass diese Idee der natürlichen Abbildung - damals ging's um Fotografie - dass die
in dem Kontext jetzt den Ethnologinnen und Ethnologen an der Stelle klar war, weil
sie aufgewachsen waren, was relevant ist und was nicht. Die Größe bei nem Foto
spielt keine Rolle. Das Material spielt auch keine Rolle. Aber was spielt ne
Rolle? Wie viele Fenster sind da, die Farbe spielt ne Rolle und so weiter. Das
heißt also an der Stelle ist das eben gar nicht so einfach, ein richtiges Modell für
ne Sache zu finden. Da hängen sehr, sehr viele Auswahlmöglichkeiten mit dran, wie
man nen gegebenen Sachverhalt moduliert und was es dann interessiert... was ist
interessant oder nicht. Das heißt also diese Objektivität ist da schonmal gar
nicht gegeben. Auch wenn die Ergebnisse von informatischen Systemen meist sehr
definiert sind. Der zweite Hinweis oder den zweiten Gedanken darüber, wie man
Modelle der Welt baut, um sie dann irgendwie zu verarbeiten, da gibt es ein
schönes Gedankenexperiment der farbenblinden Neurobiologin, wo die Frage
ist an der Stelle, wenn diese Neurobiologin alles über das Gehirn weiß,
was weiß sie über die Rot-Wahrnehmung. Weil sie selber farbenblind ist. Das heißt
also, wie kann man auch quasi Sachverhalte modellieren, in denen man selber nicht zu
Hause ist. Das ist ne ganz wichtige Frage, wenn wir irgendwie Softwaresysteme bauen,
die dann in anderen kulturellen Kontexten verwendet werden oder Kreisen verwendet
werden. Das heißt also diese Bedeutungsverschiebung von Begriffen oder
von Sachverhalten, die wir informatisch verarbeiten wollen, hin zu wohl
definierten Modellen, mit denen dann ein Computer, eine Universal-Maschine was
anfangen kann, das ist echt schwierig. Und die Begriffe, die wir verwenden, um selber
in der Informatik damit umzugehen, die sind dann "die Maschine lernt" oder "sie
weiß was" oder... "da hat sie irgendwie ein Symbol erkannt" oder "den Fußball
erkannt" oder "sie denken sie denkt gerade nach", wenn da irgendwie der der Warteball
gerade ist. Oder solche Systeme "entscheiden etwas" oder "sie fühlen
etwas". Da muss man eben sehr sehr, sehr sehr aufpassen. Aus den Gründen, die ich
eben genannt habe. Jetzt klingt das alles sehr, sehr weich und sehr sehr hm, naja,
was machen wir denn jetzt da draus? Es gibt allerdings zwei oder drei aktuelle
Richtungen, die da sehr sehr sehr klare Antworten haben. Und das ist so'n
bisschen, warum ich das "die göttliche Informatik" genannt habe. Der erste ist
der Transhumanismus. Ich geh nur ganz kurz darauf ein. Der hat halt ganz klare und
ganz einfache Antworten. Naja wir... wir hacken das einfach alles rein und sagen
dann "schneller sein ist besser, länger leben ist besser, mehr erinnern ist
besser". Sozusagen. Also nicht irgendwie woraus besteht der... woraus besteht die
Hütte oder so, sondern wir definieren das, legen das fest und alle wollen länger
leben, alle wollen stärker sein und alle ... so die Idee. Und deswegen ist
sozusagen diese menschliche Verbesserung, die Frage danach stellt sich natürlich,
wenn man das so festsetzt, stellt sich die Frage gar nicht, was heißt denn überhaupt
besser und wollen es überhaupt alle. Das vereinfacht so ne Modellierung ganz
ungemein. Aber da geht eben auch viel verloren. Künstliche Intelligenz - ich
unterscheide jetzt mal nicht zwischen general und domain specific. Es gibt auch
für die Modellierungsfragen auch ganz interessante Antworten. Zum Beispiel: naja
der Mensch ist ja ne Informationsmaschine und alles ist quali-- quantifizierbare
Information in endlicher Auflösung, muss man da fairerweise sagen, für die
Konsistenz dieser Sichtweise. Und sämtliche Aspekte menschlichen Lebens sind
deswegen berechenbar. Das heißt so'n bisschen von hintenrum definiert zu sagen,
also, alles was wir quantifiziert modellieren können, oder andersrum: weil
die Welt im Endeffekt aus Informationen besteht, ist alles quantifizierbar und das
Quantifizierbare ist mathematisch modellierbar. Und das was dann... also es
gibt ja nichts was da nicht reinpasst. Deswegen sind diese Modellierungsfragen
immer nur so Auswahlmöglichkeiten zwischen A, B und C, aber es ist kein... keine
wirkliche Entscheidungen an der Stelle. Genau. Und diese Sicht weisen beide, die
erinnern so'n bisschen an die Kybernetik, die ja vielleicht der eine oder die
andere noch so'n bisschen im Kopf hat. Da war so'n bisschen die Überlegung, naja die
gesamte Welt besteht irgendwie aus Regelkreisen, man kann's auch beschreiben
als Mathematisierung der Biologie. Da war so ne Überlegung, naja also wir kennen ja
alle nen... so ein Heizungs-Ventil, da stellt man 22 Grad ein. Und dann ist ein
Sensor und wenn's zu heiß ist, dann geht das Ventil zu, und wenn's zu kalt ist,
dann geht's wieder auf und irgendwann kommt da so'n equilibrium. Und dieses Bild
sollte dann verwendet werden auch für den menschlichen Kreislauf und dann irgendwann
auch fürs menschliche Denken. Und man merkt schon an der Stelle, dass es auch
so... geht so auch in diese Richtung der von mir vorher angesprochenen beiden
Herangehensweisen, hat aber leider keine zufriedenstellenden Erkenntnisse erzeugt,
weil im Endeffekt die spannenden Erkenntnisse da gekommen wären, wo die
reale Welt zu komplex wird, um in solche Regelkreise hineingepackt zu werden. Das
heißt, es sind an der Stelle, kann man sagen, totalitäre Ansätze. Wir erinnern
uns: alles ist Information oder alles ist beschreibbar. Das sind totalitäre
Modellierungsansätze, die eben ne abschließende Antwort schon bereitstellen.
Und alle, die dem widersprechen, sind dann eben Ungläubige oder eben noch nicht
Gläubige. Na, das ist ja immer so die klassische Herangehensweise. Das heißt,
was sie auch gemeinsam haben, das ist eben die Reduktion aufs Berechenbare, zu sagen
alles was sozusagen berechenbar ist, ist ist real und das können wir verarbeiten
und alles andere blenden wir einfach aus. Oder das gibt es sowieso nicht. Dabei muss
man natürlich auch den Unterschied beachten zwischen Genauigkeit und
Richtigkeit. Man kann ja sozusagen sehr genau das Falsche berechnen, wenn man sagt
irgendwie das Ergebnis dieser Berechnung ist bis 15 Stellen nach dem Komma, dann
kann es ja das falsche Ergebnis sein, aber sehr, sehr genau, das muss man dann
unterscheiden an der Stelle. Und diese totalitären Ansätze, da ist es meistens so
dass in letzter Konsequenz dann sozusagen als als Beispiel, warum das doch ne sehr
schöne Art ist, wie man sozusagen menschliche Sachverhalte modellieren kann,
ist dann die Physik: wie die Teilchen sich bewegen und das Gehirn ist ja dann quasi
auch Zusammenballung von Teilchen und die kann man doch modulieren und in letzter
Konsequenz kann man... ist das letztgültige Modell so klein wie möglich
und das kann man irgendwie mit Rechenmaschinen abbilden. Da will ich nur
so als kleinen Trüffel mal auf die... auf das Dreikörperproblem hinweisen, dafür
haben wir keine Berechnungsvorschrift. Da kann man sich nur approximativ nähern.
Aber das... da will ich jetzt nicht näher drauf eingehen. Die Gemeinsamkeit dieser
Abs... dieser Ansätze, die sehr, sehr weit verbreitet sind, leider gerade, gerade
sozusagen in der Technikerinnen- und Techniker-Gemeinde, ist immer die
Reduktion. Aber Reduktion nicht im Sinne von "Wir haben eine komplexe Welt und ein
komplexer Sachverhalt und den reduzieren wir auf Modelle und dann rechnen wir mit
diesen Modellen weiter", sondern worüber ich hier spreche, ist die Reduktion des
Sachverhalts an sich, damit er ins Modell passt. Das heißt also tatsächlich ein
unbewusstes Ausblenden der Grenzen dessen, worüber man spricht. Ich würd das jetzt
auch mal so'n bisschen nen Daten-Fetisch nennen, weil die Dinge, die man dann damit
modelliert hat, die sind dann in Daten abbildbar. Und die Komplexität dürfte noch
weiter reduziert, indem man dann sagt: Ja wenn man aber informationstechnische
Systeme irgendwie zwischen Freunden oder in der Gesellschaft verwendet , dann ist
das... passt das auch in diese Modelle nicht so richtig rein, mit denen man dann
arbeiten will. Also ist es oftmals auch so, dass eine Gesellschaft definiert wird
als eine Menge von Individuen. Das sind alles Einzelne und dann passt das auch
wieder in diese Modelle hinein. Und da klopft dann auch natürlich Ayn Rand mit
ihrem Ultra-Objektivismus an die Tür. Und diese diese Vermischung, die lässt sich,
wenn es jetzt so ein bisschen flirrend klingt, auch ein bisschen auf den Nenner
bringen, mehr Daten heißt mehr Wissen. Wissen im Sinne von sozusagen
Verbindungen, Verknüpfungen von Informationen, auf die zugegriffen werden
kann, mit denen gehandhabt werden kann als Mensch, Wissen an der Stelle versus Daten
als syntaktisches Vorhandensein dieser Modellierungen. Und an der Stelle ist da
natürlich mehr Daten zu haben schon quasi Selbstzweck, weil das automatisch ja dann
auch gleich Wissen ist. Das heißt, das wird dann so zusammen kombiniert. Und wenn man
diese Denkweisen - ich weiß nicht, bei wem von euch da jetzt ihr sagt, naja gut, das
sehe ich schon so. Die Welt besteht aus wohldefinierbaren Informationen.
Vielleicht mal Hand hoch für die, die die das glauben, dass in letzter Konsequenz
alles definiert... definierte Informationsstrukturen sind und da nichts
mehr dazwischen liegt. Okay, also die Mutigen haben sich gemeldet - von denen,
die das glauben, mein ich. Das Interessante dabei ist - vielen Dank auf
alle Fälle - zwischen diesen aus meiner Sicht reduzierten Datenobjekten verliert
dann natürlich so'n menschlicher Nutzungskontext an Farbe. Also, wer jetzt
nicht ganz weiß, was ich damit meine, der nehme sich mal gerne ein altdeutsches
Märchen über ne Dorfgemeinschaft, wie differenziert an der Stelle dann
sozusagen die Menschen miteinander interagieren und welche, welche Zeichen
da sich gegeben werden, um irgendwelche Gruppenzugehörigkeiten
zu zeigen, was man auf ganz viele Arten auch interpretieren kann.
Und ja, man kann es so ein bisschen auch nochmal eindampfen,
der Robotiker Hiroshi Ishiguro hat das mal so formuliert: Wenn er seine Roboter baut,
naja meistens wenn er zu Hause ist, ist er eh so müde, dass er nur auf der Couch
sitzt und fernsieht, das kann ja nun wirklich auch ein Roboter übernehmen. Für
die Kinder ist das ja egal, ob er nicht mit ihnen spielt oder der Roboter nicht
mit ihnen spielt. Ich will jetzt nicht sagen, dass das immer automatisch
zusammenpasst. Aber wenn eine Weltsicht oder die Weltmodelle so aussehen, dann ist
es natürlich sehr einfach oder wenn die Weltvorstellung so aussieht, dann ist es
natürlich sehr einfach, davon ein Modell zu bauen und dazu dann die passenden
Maschinen oder Computersysteme. Und ich spreche hier auch nicht - das hab ich ja
so ein bisschen eine Einleitung auch angedeutet - über einfach nur rein
philosophische Überlegungen. Diese Technikgläubigkeit, oder ich nenn's
Technikgläubigkeit, verbreitet sich auch rasant. Spiekermann hat das mal sehr schön
geschrieben: "Die Singularity University in Silicon Valley turns out a class of
well-funded brainwashed entrepreneurs each year to build the technologies needed for
the Transhumanistic vision." Also, es gibt da auch viel Geld und diese Denkweisen
werden auch gut dotiert sozusagen in existierende Softwaresysteme gegossen, die
dann auch ihre gesellschaftsbringende Wirkung entfalten. Okay, vielleicht ein
bisschen weniger martialisches und weniger weniger kritisches Beispiel, aber nur mal
um... Ich springe jetzt in dem Kontext, um vielleicht die Parallelen so'n bisschen
klarzustellen. Die Blockchain-Technologie an sich als konkrete Technik, die ja von
sich selber sagt, sie wär ein trustless ledger, also sozusagen so ne allgemeine
Datenbank, die sozusagen von allen betrachtet werden kann und wo sich
sozusagen, wo es keine zentralen Autoritäten gibt, denen man irgendwie
trauen muss. Aktuell ist es scheint es die Lösung für alles zu sein, von Microsoft
bis hin zu Banken forschen daran. Die Überlegung ist dann immer, das kann man
mal für Wahlsysteme, für Währung, smart contracts und Märkte verwenden. Sehr
schön, hab ich gefunden, so'n kleinen Chart, wo man überlegen kann, ist das, was
man eigentlich machen möchte, was man modellieren möchte, ist dafür irgendwie ne
Blockchain überhaupt gedacht. Weil, oder ist es nicht einfach mit ner normalen
Datenbank auch getan. Also ist es dann für den also... Weil - jetzt komm ich wieder
auf den Punkt vorher zurück - die interessante Frage ist ja an der Stelle,
damit ich irgendwie mit der Blockchain gut arbeite und das alles... dieser trust
tatsächlich verteilt ist, dann muss ich ja auch irgendwie sicherstellen, dass die
mitarbeitenden Systeme und die Rechner alle ungefähr gleich stark sind. Weil wie
wir es zum Beispielt bei Bitcoin aktuell sehen, wenn eine Firma in einem Land zum
Beispiel einfach sehr, sehr große, sehr starke Systeme hat, dann können die
natürlich auch bestimmen, wo es lang geht. Und das ist dann natürlich eben nicht mehr
dezentral. Also wäre die Frage, hat sich das Vertrauen bei solchen Technologien -
das kann man nachher noch diskutieren - nicht einfach nur aus der technischen
Sphäre sozusagen diese Vertrauen oder Vertrauenslosigkeit aus der technischen
Sphäre heraus bewegt durch diese Technologie und ist jetzt aber woanders
vorhanden. Also dieser trustless ledger bezieht sich auf die Technologie, aber
welchen Akteuren muss auf welche andere Art vertraut werden? Und das liegt dann
vielleicht eben außerhalb der technischen Betrachtung, aber deswegen ist es eben
nicht weg. Deswegen stellen sich die Fragen: Wer kontrolliert die Maschinen,
wie stark sind sie und so weiter. Okay, dann komm ich jetzt mal zum Exkurs des
Wirtschaftens. Das... da weiß ich jetzt schon, im Raum gibts ein paar, denen sich
gleich auch die Fußnägel hochrollen, aber das ist auch ganz okay so. Ich rede mal
kurz über den Neoliberalismus. Schöne Einleitung, oder? Also im letzten
Jahrhundert im Wettkampf der Wirtschaftssysteme kann man so'n bisschen
sagen vom Kommunismus bis zum Ultra-Libertarismus nenn ich jetzt gerade
mal... würd ich jetzt mal ganz kurz rausgreifen - und gleich wird hoffentlich
auch klar warum - den Neoliberalismus. Ich nenne... oder ich betrachte das so im
Geschmack der Chicago Boys in Chile unter Pinochet und so'n bisschen in
abgeschwächter Form so Thatcher in Großbritannien so ab den Siebzigern, so
nachdem Bretton Woods so abgeschmiert ist, sozusagen die Dollar-Bindung von einer
globalen Währung in ? Geld. Was ich damit meine - wir können den Begriff auch dann ändern,
gerne, ist ... ist sozusagen Austerität und Privatisierung als Eigenschaft und ne
Unterordnung aller Lebensbereiche in ne Wirtschaftsorientierung. Außerdem spielt
da ne Rolle Individualisierung, insbesondere von Verantwortung, jeder ist
ihres Glückes Schmied, und als Psychologie dieser handelnden Individuen wird dann
verwendet sowas wie Spieltheorie und rational choice-Ansätze, so ne Mischung
aus Reiz-Reaktions-Theorien, Anreize und Gelegenheiten. Das heißt, der Mensch
reagiert darauf und... und handelt sozusagen rational in diesen
Spannungsfeldern. Und dem einen oder der anderen... merkte an der Stelle schon, da
gibt's Parallelen zu dieser informatischen Sichtweise sozusagen, wie Menschen
reagieren, warum sie reagieren und wie man sie dann auch steuern oder kontrollieren
kann. Oder Nudgen, also locken. Konkrete Vorhaben war in dem Beispiel, das ist
jetzt hauptsächlich aus Chile... also hauptsächlich Chile. Aber das hat sich
dann 80ern auch weltweit sehr weit ausgebreitet. Dieses Staats- und
Wirtschafts-Verständnis, da ging's ... gerade unter Pinochet wurde das halt
radikal umgesetzt. Deswegen galt das so'n bisschen als Labor des Neoliberalismus.
Privatisierung des Gesundheitssystems, Privatisierung des Rentensystems,
staatlich umlagefinanziert hin zu privat kapitalgedeckt. Das sehen wir auch
hierzulande so'n bisschen am Kommen. Privatisierung des Schulsystems wurde
durchgesetzt und Erschwerung von gewerkschaftlicher Arbeit, insbesondere in
Chile wurden dann gewerkschaftliche Organisationen verboten, Deregulation von
Banken und dem Finanzmarkt allgemein und gerade so was wie Steuersenkungen für
Unternehmen, um mehr Investitionen anzulocken. Das Resultat war an der Stelle
dann, dass die Wirtschaftsleistung nominal sozusagen stiegen, aber die Mittelschicht
zum Beispiel reduziert wurde, Arm-und- reich-Spreizung zunahmen, Arbeitslosigkeit
inbesondere in Chile anstieg, kann man natürlich auch nochmal drüber sprechen,
was gilt als Arbeitslosigkeit und was nicht. Der allgemeine Gesundheitsstand
sank, die staatlichen Ausgaben gingen stark zurück durch die Kürzung der
Sozialsysteme. Und - das fehlt da jetzt noch - und die staatlichen Einnahmen
insgesamt die gingen natürlich auch zurück durch die Steuer... Steuersenkungen. Das
heißt, und ist auch ne Entwicklung, die teilweise in Deutschland in Ansätzen
erkennbar ist, in anderen Ländern viel mehr, kann man so sagen. Interessant ist
es vielleicht als politische Nebenbedeutung, Neben - Bemerkung: in
Großbritannien und den USA wird sozusagen Widerstand dagegen auch merkbar, sowas
wie, wie Bernie Sanders oder Jeremy Corbyn, die ja quasi gerade so sehr links
einschwenken. Warum erzähl ich das aber eigentlich gerade: Es geht um die
unheilige Allianz, denn jetzt haben wir sozusagen diese bisschen vereinfachten
Weltsichten, die ich vorhin genannt habe, mit so ner verheißungsvollen, endlich die
Antworten auf komplexe Fragen, und das zusammentreffend mit finanzschwachen
öffentlichen Händen... mit ner finanzschwachen öffentlichen Hand. Wir
haben grad eben ganz kurz gehört über die Ausgaben und Eingaben, äh Einnahmen-
Reduzierungen, so dass dann so ne halb verstandene Daten-Lösung, die mit so ner
schönen alles-neu-und-alles-gut-Ideologie gewürzt sind, dann eben schnelle Erfolge
versprechen. Das heißt also, man hat ja auch viel im Portfolio, wenn man sich
anschaut, die weltgrößte Zimmervermietung hat selber gar keine Zimmer, das
weltgrösste Taxi-Unternehmen hat gar keine Taxis. Und die digital Etablierten zählen
ja auch zu den wertvollsten Unternehmen. Die können ja so falsch nicht liegen. Das
heißt also, diese ökonomischen Randbedingungen, die ich gerade so'n
bisschen extremer beschrieben habe, die passen in gewissem Maße genau zusammen mit
dieser informatischen Sichtweise zu sagen: Wir können diese... erstens teilen wir
diese vereinfachten Weltbilder und zweitens haben wir da Lösungen, haben wir
für diese Probleme, die es da so gibt , entsprechende Lösungen. Man könnte es ein
bisschen rauer auch die Silicon-Valley- Ideologie nennen. Und das ist sozusagen
denn... man kann ja auch ein Produkt besser verkaufen, wenn man noch ein
schönes Lebensgefühl dazu packt. Es hat ja Harley Davidson mal gesagt: Bei uns kauft
man ein Lebensgefühl und dann gibt's ein Motorrad kostenlos dazu. Und die Aussage
hier ist immer, es ist die digitale Revolution jetzt gerade und seid mit
dabei, die alten Industrien haben ausgedient und jetzt disrupt everything,
auch den Sozialstaat, Klammer zu, und make the world a better place, wer will da
nicht dabei sein. Die Frage, die sich natürlich stellt, auch mit klammen Kassen
der öffentlichen Hand, a better place, die Welt wird also besser, wie besser wird sie
denn und was genau wird besser und für wen? Weil interessant ist es schon, dass
da nicht gesagt wird, naja wir wollen einfach nur informatische Systeme bauen,
die irgendwie gut ihre Arbeit tun, sondern dass man diesen Pathos mit dazu haben
will. Das ist schon interessant, sozusagen diese Betrachtung der besseren Welt. Denn
die Frage verweist ja irgendwie, wenn man sagt, wir wollen irgendwie ne bessere
Welt, wir wollen eine bessere Welt haben, irgendwie zeigt das ja schon auf ne ganz
relevante Frage, nämlich wie wollen wir eigentlich leben. Man könnte jetzt, wenn
man manchmal - ketzerisch sage jetzt mal, da das Ohr ans Silicon Valley legt -
hören, die Frage ist, wie wollen wir Tische im Restaurant bestellen. Aber
eigentlich zeigt die Frage ja daraufhin, wie wollen wir mit Armut Ungleichheit und
Hummer umgehen - Hunger natürlich. *Lachen,Applaus*
Noch ist es der Hunger. Also wie gehen wir damit um, wenn alle Hummer... genau. Naja,
bei Hunger und Hummer ist auf alle Fälle so, dass es dafür ne App gibt, das ist ja
immer so das klassische. Die Frage ist aber so'n bisschen, wenn man in diese
technischen Sichtweisen so navigiert, da scheint es mir zumindest oftmals so, dass
man sagt, welches Problem passt denn zu unserer Lösung hier? Wir haben hier was
Schönes gebaut, jetzt ist es Internet oder so was. Was für ein Problem passt denn
jetzt dazu, was können wir denn da lösen. Und es ist sogar gar nicht so abwegig,
dass so ketzerisch zu formulieren, denn ich weiß nicht, wer von euch mal was von
UberHop oder Lyft Shuttle gehört hat, das sind ja, sind ja beides sowas wie Taxi-
Unternehmen und die hatten großartige Ideen zu sagen, ja man könnt ja mal ein
bisschen größere Autos nehmen und die muss man nicht rufen, sondern die fahren auf
festen Routen und dann kann man da einsteigen und total günstig mit anderen
zusammen fahren, also als würde man sich ein Taxi teilen - und der Rest der Welt
dachte so: Ach, Bus, ja, hm. *lacht* *Applaus*
Also es war jedenfalls ein sehr erhellender Moment, als Silicon Valley
dann den öffentlichen Personen-Nahverkehr erfunden hat. Ja, aber der Witz ist, es
funktioniert ja irgendwie wirtschaftlich. Also Google, Facebook, Amazon durchdringen
unseren Alltag mit den Ideen - das sind natürlich nicht alles unsinnige Ideen,
will ich nicht gesagt haben - aber warum das für uns jetzt relevant ist, das ist,
dass Startups mit diesem Weltbild, was ich vorhin beschrieben habe, auf gewichtige
Geldgeber treffen. Und dann auch noch gewisser wirtschaftlicher oder
wirtschaftspolitischer Unterstützung. Und dann diese Weltbilder auch sozusagen
finanzstark in die Welt und auch hierhin tragen. Da gibt es ja auch, wenn es darum
geht z.B. deutsches Recht zu erfüllen, dann werden halt Nazi-Kreuze verpixelt,
aber ich warte eigentlich mal auf den Aufschrei, wenn deutsche Facebook-
Userinnen und -User ihr Recht auf Nippel einfordern. Weil die Frage ist ja nicht,
was wird verboten, sondern was wird eigentlich ausgeblendet, obwohl es hier
erlaubt wäre. Ne, das kann man ja auch mal andersherum sehen. Okay, damit will ich
nicht zitiert werden. *Lachen*
Jedenfalls also die Beschreibungen, es gibt so bestimmte Theoretiker, die Silicon
Valley so'n bisschen als useful idiots bezeichnen, die selber denken, sie bauen
an was Wichtigem mit, sind aber eigentlich sozusagen die Türöffner für ganz andere
dahinterstehende Geldgeber. Nämlich auch zum Beispiel Versicherungen, Auto-
Hersteller und so weiter. Und da fragt man sich dann, was von dem disrupt noch übrig
bleibt. OK. Genau. Das heißt aber im Endeffekt, die öffentlichen Stellen
übernehmen bestimmte Produkte, die eigentlich für ne kommerzielle Nutzung
gedacht waren... worden sind. Und das ist ja ganz praktisch, weil Erfolg dort
quantifizierbar ist. Und das hat dann irgendwie ne eigene Logik. Die öffentliche
Hand funktioniert ja ein bisschen anders. Von Kommunikationsinfrastruktur irgendwie,
wenn das ZDF bestimmte Dinge einfach bei Youtube speichert, weil sie selber nicht
die eigene Infrastruktur haben, dann kauft man sich damit eben diese Rechte und
Beschränkungen ein, über ÖPNV bis hin zur Stadtplanung, also in Toronto wird jetzt
ein Stadtteil zum Beispiel von Google Sidewalk Labs entwickelt.
Gesundheitssystem-Optimierungen bis Verbesserung der Altenpflege, das reicht
so je nach dem wo man auf der Welt hinguckt. Und vieles davon sogar günstig
bis kostenlos. Weil das natürlich sehr viel Daten generiert, über die die
Unternehmen dann sehr, sehr froh sind. City as a service fand ich nen sehr
schönen Spruch an der Stelle. Okay. Ja und ich hab manchmal den Eindruck, dass die...
sozusagen die Politik so'n bisschen faul wird mit der Komplexität der Probleme und
die sind vielleicht auch noch global und wir kriegen die alle nicht gelöst und
jetzt kommt da jemand und dann könnte man das ja einfach mal probieren und die
leeren Kassen sind sowieso da. Also es passt so'n bisschen alles zusammen. Und
auch Geheimdienste sitzen ja ner gewissen Logik auf, zu sagen, die Weltlage
verschlimmert sich, wir brauchen einfach noch mehr Daten und selber aber, die
Leute, die tatsächlich an diesen Daten arbeiten und daraus sinnvolle
Informationen generieren müssen, nämlich Wissen, die sagen selber, wir ertrinken,
wir brauchen, wir brauchen nicht noch mehr. Aber das hält niemanden auf. Dann
geh ich jetzt nochmal drüber. So. Und naja, bei dieser immer engeren Verzahnung
stellen sich natürlich bestimmte Fragen. Weil Unternehmen, die man so eng dann in
die öffentlichen... in den öffentlichen Raum hinein lässt, die müssen ja dann
bestimmte Eigenschaften erfüllen, was die meisten nicht tun. Unternehmen
funktionieren eben nicht demokratisch. Also, sie haben bestimmte interne Abläufe,
eigene Dynamiken. Also wenn irgendwie Wayze, das ist so'n Routing-Dienst, wenn
der sagt, naja, da ist gerade ne Baustelle, wir routen jetzt mal hier, weil
unserem Stadtplan gemäß sieht es sehr gut aus, und dann sind es aber irgendwelche
kleinen Straßen, die da gar nicht dafür gedacht waren und auch dadurch dann
kaputtgehen und so weiter. Da treffen dann verschiedene Motivationen aufeinander,
nämlich wie ne öffentliche Politik und vielleicht menschliche Selbstverwaltung,
der Stadtteil und so sich das gedacht hat, und wie ne Firma gedacht hat, was das
Beste wäre. Und dann ist die Frage, wer hat halt die Durchsetzungsmacht. Und bei
dieser Übermacht von solchen... von solchen Firmen, die man sich für
öffentliche Aufgaben holt, ist natürlich die Frage, wie... wie geht man damit jetzt
irgendwie um. Also geht man das weiter, was sind die Folgen. Und da kommen wir
jetzt natürlich zur Rolle der Politik. Wenn wir jetzt mal zur göttlichen
Informatik zurückkehren und fragen, was kann die Informatik oder vielleicht auch,
wovor hat man irgendwie Angst, wofür hat man irgendwie Angst. Dann würde ich zum
Beispiel sagen, ich hab... also hat man Angst vor einer KI oder hat man Angst vor
Unternehmen, die mit KI ihre eigenen Ziele durchsetzen. Na, jetzt merkt man nämlich,
wenn man diese Dinge, die ich vorhin gesagt habe, wenn man die mal darauf
anwendet, was... sozusagen, rutscht uns die Kontrolle aus der Hand? Ist es die
Kontrolle über Technik, die uns aus der Hand rutscht? Oder ist es die Kontrolle
über Organisationen, die Technik einsetzen? Und dann passt das damit
nämlich schon wieder ganz anders zusammen. Und dann kann man darüber anders
nachdenken. Weil nämlich - und jetzt schließt sich so langsam der Kreis - sowas
wie Spiele oder Wirtschaft sind sehr schön zu modellieren, weil da klar ist, was ist
das Gute: gewonnen, verloren, Wirtschaft irgendwie, Gewinn, Profit, Verlust,
A/B-Test, das kann man ganz klar sozusagen mit Kriterien belegen. Aber so was wie
soziale Einbindung, Akzeptanz, Offenheit, Transparenz oder Grundrechtseinhaltung, da
ist es plötzlich sehr, sehr schwierig, da zu sagen, ist es... wurde das jetzt
eingehalten oder nicht. Da kann man Systeme sehr sehr, sehr sehr komplex nur
drauf optimieren oder daraufhin ausrichten. Das sehen wir auch gerade in
Bezug auf die Datenschutzgrundverordnung. So. Ja und der Sinn von Politik besteht ja
gerade darin, irgendwie Optionen zu haben, Entscheidungen zu treffen,
Verantwortlichkeiten zu klären und vor allem sie auch zu diskutieren. Das heißt
also, es geht auch darum, diese Systeme, die wir benutzen wollen, über das Design
zu sprechen, nicht nur über die Ergebnisse. Das heißt also, wenn wir
sagen... Wenn wir sagen, wir wollen zum Beispiel Schwächere schützen, dann ist das
sehr, sehr kompliziert und sehr, sehr komplex an der Stelle, das zu definieren
und auch vor allem damit umzugehen, dass Systeme dann eben auch ineffizient werden,
weil man alle mitnehmen möchte, weil man eben nicht der reinen Effizienz oder dem
reinen Gewinn nach das designen kann. Das heißt also, an der Stelle muss sich eben
auch die Informatik damit beschäftigen, dass ihre Systeme aktiv... das ist
sozusagen die Anforderung an die Systeme mit Absicht mal ineffizient gestaltet
werden, damit irgendwie Macht verteilt wird, die ja immer vorhanden ist, dass sie
zum Beispiel nicht Menschen- oder Gesellschaft-feindlich konstruiert wird.
Das heißt, es geht nicht darum bei so ner Position, wenn ich so die Grenzen der
Technik beschreibe, dass man sich irgendwie technikfeindlich verhält,
sondern darum dass die Technik sozusagen der Gesellschaft und den Menschen dient an
der Stelle. Das heißt also, informatisch gesprochen, die requirements sind die
gesellschaftlichen Werte, gern auch effizient, aber das ist dann zweitrangig.
Und als allerletzten Punkt würde ich nur sagen, es gibt auch positive Beispiele -
weil ich das jetzt so ein bisschen groß aufgezogen habe - wer sich das mal
anschauen will z.B. wie gerade die smart city-Strategie in Barcelona funktioniert,
die ist hoch partizipativ, emanzipatorisch. Das heißt also, die
Systeme bleiben unter Kontrolle der Betroffenen und dadurch dass die Systeme
auch von der Stadt selber betrieben werden, gibt es eben auch keine
Betriebsgeheimnisse und derartige Dinge. Das kann man mal sehr schön nachschauen.
Gnu-Taler ist Experimentierstadium, ich nenn es deswegen, weil das eine anonyme
Bezahlweise ist, die aber sagt, wer bezahlt, bleibt anonym, aber der Händler
oder die Händlerin, die die Zahlung entgegennimmt, kann kryptografisch
beweisen, dass es diese Zahlung gegeben hat. Das heißt es kann auch besteuert
werden, heißt es ist so'n Gegenkonzept zu diesem sozusagen Cypherpunks, wir wollen
gar keinen Staat, es gibt sozusagen auch diese Ansätze. Oder ich nenne es mal, ganz
schön: "Frag den Staat" oder "Verklag den Staat". So ne kritische... kritisch
verwendetes Einklagen von Rechten, was aber, wenn man sich anschaut, wie sich die
Macherinnen und Macher mit dem Thema beschäftigen, die immer mit reflektieren,
welche Machtverhältnisse gibt es da, wie wollen wir die thematisieren und diese
Reflektionen, die hebt dann... sozusagen senkt die Informatik von diesem göttlichen
alles Lösen hin zu nem sehr mondänen, aber dann auch sehr fruchtbaren Werkzeug.
Vielen Dank. *Applaus*
Herald: So, jetzt haben wir noch eine Viertelstunde Zeit für Fragen. Wenn ihr
unbedingt gehn müsst, dann geht bitte leise und versucht, nicht vor den Kameras
zu laufen. Und ansonsten, 13 Minuten habt ihr noch Zeit, sitzen bleiben, Fragen
überlegen, fragen. Ihr kennt das Spiel, wir haben 4 Mikrofone, einfach anstellen,
ich ruf euch dann auf und im Internet haben wir auch Fragen und wir fangen jetzt
direkt mal an mit einer Frage aus der Quelle Internet.
Signal-Engel: Die Frage ist, ob und inwieweit Simulationsmodelle eine Basis
für politische Entscheidungen wären. R: Das ist ne sehr, sehr gute Frage. Das
hängt so'n bisschen davon ab, was da simuliert wird. Also es gibt ja ganz viele
sozialwissenschaftliche Modelle, die im Endeffekt dann so auf die Interaktion
zwischen Menschen - wen guckt man denn an, wenn ne Frage aus dem Internet kommt? -
H: Das Internet. R: Okay, gut... die dann die einzelnen
Menschen so'n bisschen physikalisch modellieren und die Interaktion. Da würde
man an der Stelle jetzt sehen, das ist wieder zu kurz gegriffen, an der Stelle
würde ich sagen, als Informatiker, ich würde mal mit Sozialwissenschaftlerinnen
und Sozialwissenschaftlern sprechen, was sie dazu sagen, zu meinen Methoden, und mit
denen zusammenarbeiten, was sie sagen, was sind denn für ihre Betrachtungen adäquate
Modelle. Das heißt also, an der Stelle erstmal mit denen sprechen, die sich damit
beschäftigen, um nicht dann diese gleichen Fehler nochmal zu machen. Das ist
vielleicht sozusagen der Hinweis. Bisschen unbefriedigend vielleicht, aber... das
ist. glaub ich, genau der richtige Weg. H: Mikrofon 4, stehst du an oder guckst du
auf dein Handy? M4: Beides, aber ich kann auch schon mit
ner Frage beginnen. H: Ja, fang an.
M4: Also, nerd-bedingt bin ich auch so'n bisschen Asimov-Fan, da gibt's so diese
drei Roboter-Gesetze, du hast davon gesprochen, wie sich Maschinenlogik und
biologische Logik nicht komplett miteinander vereinbaren lassen und
vertragen. Ich geh da mit, es gibt aber auch systemtheoretische Ansätze, mit denen
sich Psychologie sehr gut beschreiben lässt und auch psychologische
Interventionen machen lassen, um zum Beispiel in der Psychotherapie und
Organisationspsychologie weiterzukommen, also wenn sozusagen der Mensch als System
von Persönlichkeitsanteieln verstanden wird oder eine Organisation als System
verschiedener Stakeholder begriffen werden, also ich geh aber mit, dass diese
Atomisierung kontraproduktiv ist für ne coole Gesellschaftsentwicklung. Jetzt die
Frage... R: Ich bin gespannt, ja.
M4: Wie siehst du das und welche Ansätze...
*Lachen, Applaus* Moment, Moment... welche Ansätze dessen,
dass man Kybernetik quasi in der Gesamtschau, einerseits Biologie und
andererseits Technologie betrachtet, welches davon findest du trotzdem noch
produktiv?
R: Ich fand die Anfangsbemerkung auch wenn ich mitgelacht habe, trotzdem sehr sehr
spannend und hätte reagiert, auch wenn da jetzt keine Frage mehr gekommen wäre. Ich
glaube, der wesentliche Punkt dabei ist, immer zu fragen, was möchte ich mit diesem
Modell gerade bezwecken. Die dann anzuwenden, wenn es zum Beispiel in ner
Psychotherapie funktioniert, auch nach den Regeln der Psychologie, dann ist daran ja
nichts falsch. Es geht an der Stelle, so wie ich's beschrieben habe, ging's darum
zu sagen, das funktioniert doch da, also benutzen wir das jetzt nicht überall, aber
auch bei den Sachen, die so ähnlich sind, ohne nochmal zurückzuchecken. Also an der
Stelle geht das so'n bisschen auch darum zu sagen, wir benutzen die Modelle, und
behalten aber im Hinterkopf, dass es Modelle sind. Und wenn es da hakt oder
auch die ganze Zeit sind wir in so ner kritischen Feedbackschleife zu gucken, ist
das Modell noch adäquat oder ist es nicht adäquat. und wenn es nicht adäquat ist,
dann kann vielleicht auch die Erkenntnis reifen, dass es für die Sache, die man
gerade modellieren will, kein adäquates Modell gibt. Das ist ne mögliche Antwort.
Und mir geht's so'n bisschen darum, das immer noch offen zu haben und stehen zu
lassen und nicht zu sagen, super, das ist doch jetzt das perfekte und damit ist die
Totalität dann erledigt. Und mit dieser Totalität ist die Frage dann endlich
erledigt, ne, diese komplexen... In Bezug auf die Kybernetik... ja, es ist... ich
glaub, das kann man so allgemein gar nicht sagen, da müsste man sozusagen konkret auf
ne Situation beziehen, glaub ich. Wenn ich die Frage so richtig verstanden habe. Das
ist so'n bisschen so Plädoyer dafür, dass man diese Anforderungen dann eben mal
kritisch reflektiert und dann konkret darauf verwendet und nicht so one size
fits all. Ok, ich hoffe, das war... H: So, Mikrofon Nummer 1 bitte.
M1: Also ich hatte - oh das ist laut - gewisse Probleme mit deinem Vortrag, weil
du wirklich extremst vieles reingepresst hast, von Philosophie, früheren
Beispielen, Ökonomie, also du hast ja wirklich alles irgendwie reingebracht, und
dabei hat mir eben so'n bisschen der eine Punkt gefehlt, *räuspert sich*
und vor allem hatte ich mir ehrlich gesagt
erhofft, so wie der Vortrag angekündigt war, dass vielleicht
was dazu kommt, dass du dich n bisschen mehr darauf fokussiert hättest, was denn
genau die Grenzen der Technik jetzt eigentlich sind. Beziehungsweise die
Grenzen der Informatik. Weil du hast ja selbst gesagt, das ist eine
Mischwissenschaft, die in alle anderen Wissenschaften mit eingreift. Das heißt,
geht's dir darum, ist Wissenschaft generell begrenzt, was kann sie nicht, und
dann hast du vielleicht n bisschen was zu Bewusstsein gesagt, wir können kein
Bewusstsein modellieren. Aber es geht doch letzten Endes darum, dass sich viele
hinstellen und von superintelligence sprechen, und das sehr seriöse
Wissenschaftler sind, die sagen, 25 Jahre - dann haben wir das. Also was ist damit?
Also ich mein, relativierst du nicht ein bisschen, die tatsächlichen Gefahren, die
es trotz allem gibt, mit so einer Art von Vortrag?
R: Das ist ein sehr interessanter Punkt. Also erstens die Superintelligenz, dass
die in 25 Jahren kommt, das ist ja seit 50 Jahren schon so. Ich würd es nicht
relativieren an der Stelle, die Genzen, die ich versucht habe zu beschreiben,
sind... die hängen daran, inwiefern man die Sachverhalte, die man bearbeiten will,
mathematisch beschreiben kann. Wenn es darum geht, wie schnell fährt ein Auto,
dann kann man das tun. Wenn's darum geht, mit A/B-Tests Umsätze zu messen, dann kann
ich das tun. Wenn ich Klick-Raten messen will, dann kann ich das auch tun. Wenn ich
allerdings Kundenzufriedenheit messen will, dann muss ich kritisch darüber
nachdenken, ob die 5 Sterne, die man da geklickt hat, ob das tatsächlich die
Kundenzufriedenheit ist, die ich da gerade messe, oder ob ich tatsächlich gemessen
habe, wie oft Leute auf 5 Sterne klicken. Das kann ja auch sein, ist mir völlig
egal, ich klick 5 Sterne, weil dann das Fenster am schnellsten zugeht auf meinem
Rechner. Keine Ahnung. Also diese kritische Distanz an der Stelle sozusagen,
das wäre die Grenze... meiner Ansicht nach die Grenze der Informatik. Wo man sich
fragt, gibt es da Entscheidungen, was Optimierungskriterien sind, oder was kommt
ins Modell rein und was kommt nicht ins Modell? Und da würde ich sozusagen die
Grenze ziehen, weil die Infomatik tatsächlich, das ist halt ne mathematische
Wissenschaft an der Stelle. Und zu dem zweiten Punkt: Ich hatte... das war
genau... also danke für die Frage... genau der Grund... na, find ich's schnell
genug... warum... nee, find ich nicht schnell genug - doch! - warum ich auf
dieser Folie, die... ganz oben - schade, ist nicht Folie 42 - Angst vor der KI oder
Angst vor Unternehmen, die mit KI ihre Ziele durchsetzen... Was ich damit sagen
wollte: Ich hab überhaupt keine Angst, wenn ich die Frage richtig verstehe, davor
dass sich da irgendwas selbständig macht oder dass sozusagen die
Superintelligenz... tatsächlich hab ich da... da hab ich nach allem, was ich über
Digitalcomputer weiß, hab ich sozusagen... diese Möglichkeit besteht immer, aber ich
sehe für diese Annahme aktuell einfach keine Gründe, das zu glauben. Das ist so'n
bisschen, wenn mir... ich frag in so nen Diskussionen öfters mal, ok, ich hab jetzt
verstanden, bald kommt die Superintelliganz, aber was sind denn jetzt
richtige Anzeichen, dass das passiert? Wenn man sich zum Beispiel die KI-
Forschung anschaut, die Hardware- Verbesserung, da ist ganz viel
exponentiell, aber die Erkennungsraten und sozusagen die Möglichkeiten von KIs
jeglicher Form, die wachsen immer linear. Das heißt, man muss da ganz genau
hinschauen, was wird da eigentlich gemessen? Und die klassischen
Argumentationen sind, wir stehen kurz vor dem Punkt, wo es richtig hochgeht. Und
auch Ray Kurzweil sagt, auch die, die darin arbeiten, werden nicht wissen, wann
es passiert, aber es wird bald passieren. Wenn ich... wenn mir jemand dafür keine
Anzeichen präsentiert, warum die Person das glaubt, dann ist das genau das, n
Glaube. Also ich lass mich sehr gerne davon überzeugen davon, dass es bald so
weit ist, aber bis zu dem Punkt hab ich eher Sorge, dafür... davor dass
Unternehmen Technik verwenden, um ihre eigenen Ziele durchzusetzen. Und das ist
aber ne ganz klassische politische Frage. Das ist keine technische Frage und das ist
auch keine mysthische Frage, das haben wir ganz oft schon gehabt: mit Sklaverei, mit
Kinderarbeit und so weiter, wo irgendwann mal gesagt hat, jetzt ist aber Schluss.
Zumindest hier. H: Bald ist hier auch Schluss. So, einmal
das Internet, bitte. S: Ist geplant, die wichtigsten
Erkenntnisse der Kybernetik doch noch aufzugreifen in Bezug auf polykontexturale
Logik? *Lachen*
R: Nochmal bitte. I: Ähhh...
R: Was heißt "nochmal darauf zuzugreifen", das... den Kontext hab ich jetzt nicht
verstanden. I: Ist geplant, die wichtigsten
Erkenntnisse der Kybernetik doch noch aufzugreifen in Bezug auf polykontexturale
Logik? R: Also, da steck ich jetzt nicht ganz
tief drin, aber da würd ich auch sagen, wenn es dafür adäquate Modelle gibt, für
das, was man da modellieren will, dann kann man das machen. Aber in dem Kontext,
wie ich jetzt hier den Einsatz der Informatik beschrieben habe, kann es auch
wieder für Einzellösungen nur funktionieren, aber nicht in diesem "Wenn
wir das auf alles anwenden, dann wird alles besser". Gut, das hab ich jetzt ein
bisschen allgemeiner zusammengefasst. H: Nummer 4 bitte.
M4: Hallo, danke für den Talk. Und ich komm jetzt gerad so'n bisschen aus dem
Konstruktiven und versuch, ein bisschen zu überlegen, was kann man denn machen und
überlege, durch den Vortrag hat sich durchgezogen der Begriff Macht irgendwie
für mich und Macht kann ja auch heißen, dass alle das Gefühl haben, dass sie sich
frei entscheiden, und dennoch ne gewisse Macht ausgeübt wird. Und deswegen die
Frage an dich: Erstens, kennst du Betrachtungen, die informatische Systeme
oder deren Konzeption und Verwaltung von diesem Blickwinkel her betrachten
beziehungswise hältst du es für eine richtige Herangehensweise daran?
R: Das find ich ne sehr, sehr spannende Frage. Tatsächlich gibt es diese
Prinzipien ja. An der Stelle... deswegen hab ich das ja da genannt, es gibt so
kleine Projekte oder größere Projekte, die genau diese Fragen sich stellen. Das hat
mal jemand auch zum Beispiel... Christian Kühner hat das mal 'herrschaftsfreie
kooperative Systeme' genannt, wo so'n bisschen die Frage war, wie kann man denn
so'n System, gerade bei peer-to-peer- Systemen wird das ja oft mit in Design-
Entscheidungen mit einfließen gelassen, dass sich sozusagen diese Machtverteilung
in die Hardware... in die Software einschreiben lässt und dann aber auch
nicht durch andere Entscheidungen wieder rausgenommen werden kann. Das heißt, das
sind auf alle Fälle Systeme, die das aktiv mitdenken. Das Wesentliche dabei ist immer
nur, das muss immer meiner Ansicht nach in so nem politischen Kontext auch sein, wo
dann auch verstehbar ist, was da passiert und teilweise auch regulierend, meiner
Ansicht nach, vielleicht eingegriffen werden kann. Ich denk da gerade ... Das
müsste man wahrscheinlich vom Anwendungsfall abhängig machen, aber
grundsätzlich die Richtung ist auf alle Fälle sowas wie peer-to-peer-Systeme. Wär
jetzt erstmal meine erste Antwort. Oder eben sowas wie GNU-Taler das sagt, von der
einen Richtung kann man das überprüfen, von der anderen Richtung kann man's nicht
überprüfen. Also ist definitiv... wird das in allerlei Software-Projekten auch
mitgedacht, ja. H: So, das war's. Einen Applaus für Rainer
bitte! *Applaus*
R: Dankeschön!
*Abspann-Musik*