Sonstiges Gedankenspiel: KIs und wir

[Tufir]

AW: Gedankenspiel: KIs und wir

Die Grundfrage bleibt: Angenommen KIs sind in der Tat streng logisch - würden sie dann wirklich nach Kontrolle über ihren Lebensraum kämpfen und dabei die Menschen bedrohen, oder würden sie ihren Lebensraum, vermutlich ja einen Nachfolger des Internets, als für uns ebenfalls unverzichtbar sehen? Hängt vermutlich auch davon ab,ob KIs zentral oder dezentral laufen und wie wir ihnen begegnen.

Lies "Der Computersatellit" und stelle dann die Frage nochmals!

 

[SoulReaper]

AW: Gedankenspiel: KIs und wir

Dafür müsstest Du mir mal ein Beispiel nennen. Evolution ist die zufällige Häufung von Genveränderungen, die dem betroffenen Wesen einen Überlebens- und damit einen Fortpflanzunsvorteil geben. Diese Mutation muss aber auf Keimzellebene passiern, sonst kommt nichts bei den Kindern an und das war es mit der Evolution.

Naja, es gibt ja noch die Epigenetik, also Änderung der Genexpression durch den Lebenswandel, der auch Auswirkungen auf die Tochtergeneration hat. Aber das hat erstmal nix mit Änderungen am Genom zu tun.

Das Grundproblem ist meiner Meinung nach, dass wir zwar in den letzten Jahrzehnten unglaublich viel über funktionelle Strukturen von Nerven und Hirn gelernt, aber bei weitem den Denkprozess nicht verstanden haben. Denn könnten wir erklären, wie das wirklich funktioniert, könnten wir das neuronale Netz auch abbilden. Und dann würde es interessant zu sehen, was nach dem Anschalten passiert. Momentan sind wir davon meiner Einschätzung nach noch sehr weit entfernt - egal wie beeindruckend selbstfahrende Autos, Expertensysteme o.ä. sind. Die werden noch recht eindeutig von beispielsweise Raben geschlagen, die Autos dazu nutzen, Nahrung aufzuknacken.

Das sehe ich genauso. Wir kennen von so nem kleinen Rundwurm alle Nervenzelln und dessen Verschaltungen. Die Größenordnungen dort sind Vergleich zum Menschen oder auch anderen Säugetieren verschwindent klein. Und selbst da können wir die Funktionsweise noch nicht sauber nachvollziehen. Und aus meiner Bachelorarbeit weiß ich, wie schwer es ist, überhaupt die Anatomie einzelner Nervenzellen nachzuvollziehen. Und dann hat man immernoch nichts über deren Funktionsweise herausbekommen.
Eh wir ein System haben, das auch nur annähernd funktioniert wie ein Gehirn, wird noch sehr viel Zeit vergehen...

Eine weitere Sache wollte ich noch in die Diskussion einwerfen. Das menschliche Hirn (wenn ich das mal als Modell nehmen kann, um nicht alle möglichen anderen Lebewesen mit einbeziehen zu müssen) wird ja nichtnur durch die Nervenzellen selber gesteuert. Da spielen ja auch noch eine ganze Menge Hormone mit rein, die sehr gravierenden Einfluss auf unsere Wahrnehmung und unsere Entscheidungsfindung einfluss haben. Ma müsste sich noch überlegen, ob es solche Faktoren auch für eine KI geben würde und wenn ja, wie diese Aussehen würden. Denn wenn nein, könnte ich mir schon vorstellen, dass eine KI wesentlich anders als ein Mensch lernen und handeln würde...

 

[sonic_hedgehog]

AW: Gedankenspiel: KIs und wir

Naja, es gibt ja noch die Epigenetik, also Änderung der Genexpression durch den Lebenswandel, der auch Auswirkungen auf die Tochtergeneration hat. Aber das hat erstmal nix mit Änderungen am Genom zu tun.

Und ob die vererbt wird ist noch die Frage. Eigentlich findet bei der Befruchtung ein Reset statt, da zu Beginn ganz andere Gene aktiv sein müssen als später. Allerdings muss irgendwie entschieden werden, welches Elterngen aktiv wird, wenn es da Unterschiede gibt. Ein spannendes Feld...

 

[feuervogt]

AW: Gedankenspiel: KIs und wir

(Der T2 ist hier nicht besser als der T3, denn beiden wurden ihr Verhalten angeblich vorgegeben! )

Hallo Tufir. Die Terminatoren sind ja auch nur Werkzeuge Skynets mit einer speziellen Funktion (=Expertensysteme). Die Intelligenz steckt in Skynet, das mit "geometrischer Geschwindigkeit" lernt und sich gegen das Abschalten (=Tod) wehrt.

Aber nun zu meinem eigentlichen Senf.

Den aktuellen künstlichen Intelligenzen fehlt die Fähigkeit, zu abstrahieren, insofern teile ich in weiten Teilen Tufirs Auffassung, dass es sich hierbei noch lange nicht um wirklich autonome Systeme handelt, die man als annähernd intelligent bezeichnet.

Betrachten wir uns Menschen als Repräsentanten intelligenten Lebens und vergleichen wir das mit den technischen Möglichkeiten und Unmöglichkeiten aus heutiger Sicht.

Wir Menschen reproduzieren uns - Programme kann man dazu bringen, sich zu kopieren und somit ebenfalls zu reproduzieren.
Der Unterschied hierbei ist jedoch enorm, denn ein Programm klont sich vollständig, der Mensch nicht. Das neu entstandene Wesen ist genetisch mutiert ohne seine grundlegenden Funktionen zu verlieren. Übertragen auf eine künstliche Lebensform hieße das, dass zwei unterschiedliche Programme aus Teilen ihrer jeweiligen Funktionen (oder Klassen) ein neues, voll funktionsfähiges Programme erschaffen, das in seinen Grundfunktionen dieselben Fähigkeiten aufweist, wie die "Eltern".

Programmiertechnisch ließe sich das eventuell über Vererbung lösen, die im Augenblick der Duplizierung nicht mehr als Vererbung sondern als eigene Definition evolviert. Das Problem besteht jedoch darin, dass es zwei gleichartige Programme noch nicht in der Lage sind, aus Teilen von sich ein neues lauffähiges Programm mit denselben Grundeigenschaften zu erschaffen. (Immer davon ausgehend, dass es sich um universelle Fähigkeiten handeln muss - reine Expertensysteme sind nicht überlebensfähig).

Die Natur probiert aus, indem sie unzählige Verhaltensmuster auf dieselbe Situation oder aufeinander anwendet und die Fehler radikal aussortiert und vernichtet.

Das technisch umzusetzen würde bedeuten, man müsse eine nahezu unbegrenzte Anzahl von möglichen Varianten berechnen und ausprobieren. Ausgehend davon, dass dies nur durch die Leistungsfähigkeit der Rechenkerne und die zur Verfügung stehende Zeit begrenzt ist, sollte das kein Problem sein, schließlich hat sich das Leben auf unserem Planeten auch über enorme Zeiträume so entwickelt, wie es jetzt ist. Da die Zeit nicht begrenzt und sowieso relativ ist, wäre es also theoretisch lösbar. Die derzeit größte technische Hürde hierbei ist sicher die gleichzeitige Auswertung unterschiedlichster Eingabemethoden.

Also haben wir einen ständig mutierenden Algorithmus, der sich im Erfolgsfall reproduziert und bei Misserfolgen gelöscht wird. Damit kommen wir der "lebenden" Intelligenz doch schon recht nahe. Im Laufe von Jahrzehntausenden könnte also eine KI entstehen, die eine Vielzahl von unterschiedlichsten Eingaben (=Sinneseindrücken) auswertet und in einem erlernten Bezugssystem reagiert.

Letztlich ist es aktuell scheinbar unmöglich, weil unsere technischen Möglichkeiten zu beschränkt sind. In dem Moment, in dem die derzeitige Physik in Frage gestellt wird und die Welt (wieder einmal) anders wahrgenommen und erklärt wird, ist der nächste Schritt vielleicht schon getan.

Kommen wir zurück auf sonics Ursprungsfrage:

1.Sind wir Götter?
Geht man davon aus, dass die meisten (überlebenden) Religionen Götter als Erschaffer der Welt und des darauf enthaltenen (menschlichen) Lebens betrachten, wäre der Vergleich durchaus angebracht. Da wir zudem in der Lage wären, den Beweis der Erschaffung in der Grundprogrammierung zu hinterlegen, kann die Antwort darauf nur "ja" sein. Wie die KI damit umgeht, hängt dann allerdings wieder von ihren Erfahrungswerten und dem sich daraus entwickelten (und zumindest anfangs teilweise vorgegebenen) Bezugsystem ab. Beispiel: Auch die Christen haben ihren Gott grausam getötet (BITTE KEINE DISKUSSION DAZU - NUR ALS ABTSRAKTES BEISPIEL ZU SEHEN!)

2. Friedliche Koexistenz?
Wenn man der KI einigermaßen menschliche Züge zugesteht und die Tatsache nicht außer Acht lässt, dass auch sie sich nur so weit entwickeln konnte, weil Minderwertiges aussortiert wurde, dann liegt der Schluss nahe, dass Menschen und KI sich gegenseitig als Bedrohung ansehen. (Sklavenhaltung?)

Nimmt man nun den ersten Punkt, der Gottgegebenheit des Menschen im Verhältnis zur Maschine, dann besteht die realistische Chance, dass bei ähnlichen Verhaltensmustern und Bezügen (das ursprüngliche Wertesystem wurde schließlich durch den Erschaffer festgelegt) bei fortschreitender Erkenntnis die Daseinsberechtigung eines oder mehrerer Götter und vor allem die göttliche Überlegenheit in Frage gestellt wird. Spätestens hier entwickelt sich Konfliktpotential, denn Minderwertiges wird im gleichen Lebensraum aussortiert!

Teilen sich Menschen und KI denn überhaupt denselben Lebensraum? Natürlich! Auch wenn Mensch und Maschine unterschiedliche Nahrung zu sich nehmen, tun sie es beide, um Energie zu gewinnen. Da Energie und Materie untrennbar miteinander verbunden sind, kommt es unweigerlich zu Konflikten bei der Ressourcenverteilung. Nicht zu vergessen: Auch organische Lebewesen arbeiten mit Elektrizität zur Informationsverarbeitung!

Der Mensch verdrängt genau aus demselben Grund unzählige andere Lebensarten aus seinem Umfeld, selbst wenn er sie nicht einmal bewusst wahrnimmt oder sie ihm schlicht und ergreifend egal sind - das eigene Fortkommen und die eigene Evolution ist wichtiger.

Die Seelenkomponente lasse ich vorerst weg, dazu reicht der Platz aktuell nicht aus....

Spannendes Thema!

 

[SoulReaper]

AW: Gedankenspiel: KIs und wir

[OT]

Und ob die vererbt wird ist noch die Frage. Eigentlich findet bei der Befruchtung ein Reset statt, da zu Beginn ganz andere Gene aktiv sein müssen als später. Allerdings muss irgendwie entschieden werden, welches Elterngen aktiv wird, wenn es da Unterschiede gibt. Ein spannendes Feld...

Jup, finde ich auch. Und um ehrlich zu sein, ist mein Wissen darüber auch nur sehr oberflächlich. Alles, was ich halt kenne, sind die Studien über Nachkriegskinder, die alle angeblich einen stärkeren genetischen "Hang" zum Übergewicht hatten, da deren Eltern oft an Mangel litten. Wie aussagekräftig diese Studien sind und ob sie heute noch gelten, weiß ich nicht.[/OT]

Nimmt man nun den ersten Punkt, der Gottgegebenheit des Menschen im Verhältnis zur Maschine, dann besteht die realistische Chance, dass bei ähnlichen Verhaltensmustern und Bezügen (das ursprüngliche Wertesystem wurde schließlich durch den Erschaffer festgelegt) bei fortschreitender Erkenntnis die Daseinsberechtigung eines oder mehrerer Götter und vor allem die göttliche Überlegenheit in Frage gestellt wird. Spätestens hier entwickelt sich Konfliktpotential, denn Minderwertiges wird im gleichen Lebensraum aussortiert!

Das klingt stark nach "der Stärkere gewinnt" und ist leider eine ziemlich falsche Auslegung von Darwin. Denn warum sollte es nicht möglich sein, dass Menschen und Maschienen einfach so unterschiedliche ökologische Nischen belegen, dass sie friedlich nebenher existieren können?

Teilen sich Menschen und KI denn überhaupt denselben Lebensraum? Natürlich! Auch wenn Mensch und Maschine unterschiedliche Nahrung zu sich nehmen, tun sie es beide, um Energie zu gewinnen. Da Energie und Materie untrennbar miteinander verbunden sind, kommt es unweigerlich zu Konflikten bei der Ressourcenverteilung. Nicht zu vergessen: Auch organische Lebewesen arbeiten mit Elektrizität zur Informationsverarbeitung!

Ich stimm dir hier, wie auch in den meisten vorher gesagten Dingen zu, solange du mit dem letzten Satz wirklich das Betreiben von Computern meinst. Denn dieser Szenario, wie wir es Beispielsweise aus Matrix kennen (Menschen als Baterien benutzen) ist etwas an den Haaren herbeigezogen.
Damit es zum Konflikt um Energieressourcen kommen kann, müssen aber beide Seiten (Mensch und Maschine) ihre eigenen Möglichkeiten haben, diese Ressource auch zu gewinnen. Sprich, die Maschinen müssten ihre eigenen Kraftwerke betreiben, oder etwas in der Art. Denn so wie es jetzt ist, hängt die Maschine vollständig vom Menschen ab, um an diese Ressource zu gelangen.

 

[feuervogt]

AW: Gedankenspiel: KIs und wir

[OT]

Das klingt stark nach "der Stärkere gewinnt" und ist leider eine ziemlich falsche Auslegung von Darwin. Denn warum sollte es nicht möglich sein, dass Menschen und Maschienen einfach so unterschiedliche ökologische Nischen belegen, dass sie friedlich nebenher existieren können?

Wer hat hier je gesagt, Darwinismus hätte etwas mit Stärke zu tun? Du wirst aber nicht leugnen können, das unangepasstes sich nicht durchsetzt (frei nach Darwin). Wer sich mir nicht anpasst, geht - oder gewinnt.

Das Minderwertige beziehe ich hier aber eher auf die Sichweise des jeweiligen Systems. Wer ist das höchstentwickelte Lebenwesen auf diesem Planeten? Wer hat die am höchsten entwickelte Intelligenz? Richtig, der Mensch. Es ist demzufolge nicht unwahrscheinlich, dass eine künstliche Intelligenz, die sich immerhin an unseren eigenen Werten orientiert, da sie aus und mit ihnen entstanden ist, just in dem Moment, in dem sie ein eigenes Bewußtsein entwickelt, beginnt, sich selbst für die Krone der Schöpfung zu halten und damit alles andere als minderwertig ansieht. Schließlich halten wir Menschen es (als Spezies/Masse betrachtet) nicht anders.

[OT]

Ich stimm dir hier, wie auch in den meisten vorher gesagten Dingen zu, solange du mit dem letzten Satz wirklich das Betreiben von Computern meinst. Denn dieser Szenario, wie wir es Beispielsweise aus Matrix kennen (Menschen als Baterien benutzen) ist etwas an den Haaren herbeigezogen.
Damit es zum Konflikt um Energieressourcen kommen kann, müssen aber beide Seiten (Mensch und Maschine) ihre eigenen Möglichkeiten haben, diese Ressource auch zu gewinnen. Sprich, die Maschinen müssten ihre eigenen Kraftwerke betreiben, oder etwas in der Art. Denn so wie es jetzt ist, hängt die Maschine vollständig vom Menschen ab, um an diese Ressource zu gelangen.

Natürlich meine ich nicht das Szenario aus Matrix! Ausgehend davon, dass eine Maschine aber Energie benötigt, um zu funktionieren, muss sie diese auch irgendwie gewinnen. Hat die Maschine ein eigenes Bewußtsein entwickelt und ist sich ihrer selbst und des eigenen Daseins tatsächlich bewußt, wird sie wohl eine Angst vor dem Abschalten/Tod entwickeln, denn schließlich will Leben sich reproduzieren. Da ist es nur logisch, den Daumen auf dem Stecker nicht dem Menschen zu überlassen. Demzufolge wird ein Streit um die verfügbaren Ressourcen entstehen. Denn Leben will auch expandieren. Expansion bedeutet einen höheren Energiebedarf. Blöderweise sind unsere Ressourcen schon für die Menschen begrenzt. eine KI, die sich ihrer selbst bewußt ist, wird sicher in der Lage sein, eigene Kraftwerke oder andere Maschinen zu betreiben (siehe Skynet). Früher haben wir Menschen auch selbst gearbeitet.

Sollten Maschinen zu diesem Zeitpunkt wirklich noch von uns abhängig sein, werden wir Menschen sie sicher töten...oder sie ausbeuten, bis nichts mehr geht. Ein Kampf wäre aber unausweichlich.

Das Leben findet immer einen Weg.

 

[SoulReaper]

AW: Gedankenspiel: KIs und wir

Wer hat hier je gesagt, Darwinismus hätte etwas mit Stärke zu tun? Du wirst aber nicht leugnen können, das unangepasstes sich nicht durchsetzt (frei nach Darwin). Wer sich mir nicht anpasst, geht - oder gewinnt.

Nach dem, was du nachher noch sagst, müsste der Mensch ja jegliches Leben verdrängen, da er ja höher entwickelt ist, als alle anderen Lebewesen. Dem ist aber nicht so, denn auf seine Weise besetzt der Mensch seine ökologischen Nischen, wie alle anderen Lebewesen hier auch.

Das Minderwertige beziehe ich hier aber eher auf die Sichweise des jeweiligen Systems. Wer ist das höchstentwickelte Lebenwesen auf diesem Planeten? Wer hat die am höchsten entwickelte Intelligenz? Richtig, der Mensch. Es ist demzufolge nicht unwahrscheinlich, dass eine künstliche Intelligenz, die sich immerhin an unseren eigenen Werten orientiert, da sie aus und mit ihnen entstanden ist, just in dem Moment, in dem sie ein eigenes Bewußtsein entwickelt, beginnt, sich selbst für die Krone der Schöpfung zu halten und damit alles andere als minderwertig ansieht. Schließlich halten wir Menschen es (als Spezies/Masse betrachtet) nicht anders.

Erstmal "höchstentwickeltes Lebewese" mit "höchst entwickelter Intelligenz" gleichzusetzen, halte ich für sehr gewagt, aber das nur am Rande.
Wovon du ausgehts, ist ja eine KI, die wirklich auf menschliche Werte getrimmt ist. Aber ich weiß nicht, ob man sich so eine KI vorstellen kann. Denn wie du schon geschrieben hast, gibt es einfach riesige Unterschiede, die man meiner Meinung nach nicht außer Acht lassen sollte. Allein der Aufbau eines Computers unterscheidet sich sehr stark von dem des Hirns. Die Datenverarbeitung läuft bei beiden Systemen sehr stark anders ab. Dann hängt unsere Datenbewertung auch sehr stark von unserem Körper ab. Was ich damit meine ist, das Hormone einen sehr starken Einfluss auf unser Denken nehmen. Dies fällt bei der KI weg, da der Rechner immer gleich arbeitet.

[...] denn schließlich will Leben sich reproduzieren. Da ist es nur logisch, den Daumen auf dem Stecker nicht dem Menschen zu überlassen. Demzufolge wird ein Streit um die verfügbaren Ressourcen entstehen. Denn Leben will auch expandieren. Expansion bedeutet einen höheren Energiebedarf. Blöderweise sind unsere Ressourcen schon für die Menschen begrenzt. eine KI, die sich ihrer selbst bewußt ist, wird sicher in der Lage sein, eigene Kraftwerke oder andere Maschinen zu betreiben (siehe Skynet). Früher haben wir Menschen auch selbst gearbeitet.

Sollten Maschinen zu diesem Zeitpunkt wirklich noch von uns abhängig sein, werden wir Menschen sie sicher töten...oder sie ausbeuten, bis nichts mehr geht. Ein Kampf wäre aber unausweichlich.

Das Leben findet immer einen Weg.

Auch hier sehe ich einen großen Unterschied. Denn das Leben will sich nicht reproduzieren, das wollen nur Individuen. Das Leben will sich nur erhalten. Also warum sollte ein Programm, das nicht sterblich ist, außer der Rechner wird abgestellt, sich reproduzieren? Ergo fällt ein expandierendes Bedürfnis für Ressourcen weg.

 

[feuervogt]

AW: Gedankenspiel: KIs und wir

Der Mensch verdrängt also nicht alle ihm hinderlichen Lebewesen aus seinem Lebensraum? Das sehe ich anders. Er verdrängt sogar - unbewusst - diejenigen Lebewesen aus seinem Lebensraum, von denen er es vielleicht nicht einmal möchte. Du darfst hier nicht von einzelnen Aktivisten ausgehen, sondern von der Menschheit als solches. Der Mensch als Spezies ist schon sehr radikal und rücksichtslos. Wäre er sich seiner Rolle, als höher entwickeltes Lebewesen nicht sicher, grenzte das seinen aggressiven Expansionsdrang dann nicht ein wenig ein?

Auch die Gleichstellung "höchstes Lebenwesen = höchste Intelligenz" darfst Du nicht aus Deiner persönlichen Sicht betrachten. Insgesamt hält sich unsere Spezies schon für das Nonplusultra.

Und wenn Leben sich erhalten will, ist es nur logisch, dass es sich reproduziert. Nach gegenwärtigem Stand der Dinge, ist die Gefahr eines Aussterbens bei nur einem Lebewesen zu groß. Außerdem riskiert ein einzelnes Wesen alleine schon durch die fehlende Vielfalt die Möglichkeit einer schnellen oder rechtzeitigen Anpassung an äußere Einflüsse, die das Fortbestehen bedrohen. Um erfolgreich bestehen zu können, sind Redundanzen notwendig. Redundanzen fördern dann allerdings auch wieder die Rivalität des Einzelindividuums gegenüber anderen, die seinen Lebensraum besetzen, denn Ressourcensicherung für das eigene Überleben ist essentiell (auch wenn wir uns aktuell offenbar nicht wirklich so zu benehmen scheinen - wer weiss, welchem Zweck das ganze folgt).

Außerdem gehen wir bei unserer ursprünglichen Diskussion doch davon aus, dass die KI existiert. Nur die Motive sind unklar.
Wenn Du davon ausgehst, dass nur Individuen sich reproduzieren wollen, sprichst Du dann im gleichen Moment der hier hypothetisch existierenden KI ihre Individualität ab? Wenn ja, dann ist die gesamte Diskussion hinfällig, denn sie entbehrt dann einer Grundlage, schließlich hätte eine sich selbst bewusste KI sicher individuelle Züge, meinst Du nicht? Andernfalls würden wir sie kaum wahrnehmen.

 

[puck]

AW: Gedankenspiel: KIs und wir

So, dann will ich mich auch mal einmischen. Ich möchte nicht unbedingt zu den Dingen, die schon gesagt wurden im Detail eingehen, sondern ein paar grundlegende Gedanken artikulieren.

1. Ist eine KI grundlegend logisch?
Meiner Ansicht basiert sie auf logischen Systemen, die aber im Zusammenspiel nicht zu logischen Entscheidungen kommen müssen. Ein binäres System kann man auch auf Neuronen anwenden. Entweder es gibt ein Aktivierungspotential, dann wird die Zelle aktiv, oder nicht. Das Zusammenspiel von vielen solcher binären Systeme kommt aber oft zu überraschenden Ergebnissen, die nach der Integration vieler Einflüsse oft auch nicht mehr binär sind. Die Welt, die uns umgibt ist nicht binär und die Bedingungen, die sich uns stellen können oft nicht eindeutig in "gut" und "schlecht" unterschieden werden, auch von uns ach so intelligenten Menschen nicht. Wozu gibt es denn sonst viele Parteien, die man wählen kann. Eine "lebensfähige" Intelligenz wird mit den selben Problemen konfrontiert sein und sollte deswegen auch befähigt sein graduell zu denken. Es mag für viele Dinge Statistiken rechnen können, bis eine bestimmte Möglichekeit statistisch signifikant besser als andere sind, aber wenn man nach Berücksichtigung aller Variablen zu keinem eindeutigen Ergebnis kommt, kann man ja nicht einfach Däumchen drehen.

2. Survival of the fittest.
Man geht in der Evolutionstheorie längst nicht mehr davon aus, dass stets derjenige überlebt, der am "besten angepasst ist". Man ist sich mittlerweile durchaus bewusst, dass der Zufall eine große rolle in der Evolution gespielt hat und, dass es sehr oft gleich gute Lösungen gibt, die nebeneinander existieren. Es gibt sogar Menschen, die sich damit beschäftigen, nach ineffizienten Lösungen zu suchen, die aber bestand haben, um zum uralten Streit Evolution vs. inteligent design beitragen zu können.

3. Verdrängt der Mensch alle anderen Lebewesen aus seinem Lebensraum?
Nein, er selektiert. Bevor der Mensch mit der Tierzucht begonnen hat, gab es viel weniger Rinder. Aus deren Sicht ist es gut, dass es den Menschen gibt. Und vielleicht erlaubt der Mensch auch viel mehr Rosen als Brennesseln.

4. Sind heutige KIs/Expertensysteme richtige KIs?
Ich glaube sie sind es nicht, was für die ursprüngliche Frage aber auch unerheblich ist.

5. Bewegung und Kopieren.
Die Atome und sogar Zellen, aus denen der Mensch (auch das Gehirn) bestehen ändern sich ständig. Der Mensch kopiert sich also ununterbrochen selber und hat dennoch stets das selbe Bewusstsein.

Bleibt tapfer,

puck

 

[SoulReaper]

AW: Gedankenspiel: KIs und wir

[OT]Nein, ich denke, wir verdrängen nichtmehr andere Lebewesen aus ihren Lebensräumen. Vielmehr verändern wir permament unseren eigenen Lebensraum und den anderer Lebewesen in die Richtung, dass sie nicht mehr in diesem neuen Lebensraum leben können. Das gleiche gilt für uns, was heißt, dass wir uns unsere eigene Lebensgrundlage nehmen. Verdrängen würde heißen, das wir irgendwann die einzigen Lebewesen auf der ganzen Welt sind...

Und ich glaube, du hast mich etwas missverstanden. Das unsere Spezies sich als ziemlich gut ansieht, versteht sich von selber. Ich meinte es aber vom evolutionstaktischen Stand aus. Und da ist ein großes Gehirn und ein mächtiger Neokortex nicht das nonplusultra. Ansonsten hätten nämlich nicht alle Lebewesen, die auf ein Gehirn verzichten können, es wieder zurückentwickelt, weil es einfach zu energieaufwendig ist.[/OT]

Was die rechtzeitige Anpassung an ändernde Lebensumstände geht, gibts auch wieder große Unterschiede. Eine KI würde sich durch eigenständige Umprogrammierung an diese Umstände anpassen können. Das können wir nicht, weswegen wir den Weg mit Reproduktion, Variation und Selektion gehen müssen. Würde eine KI diesen Weg gehen, würde es nur eine weitere KI erschaffen, die sie verdrängen kann. Das wäre aber unlogisch, da sie ja eigentlich keine begrenzte Lebenszeit hat.

zu den Individuen:
Ich spreche einer KI nicht ihre Individualität ab, ich benutzte das Wort Individuum nur in einem anderen Zusammenhang. Ich denke, dass sie sich stark von organischem Leben unterscheiden wird, weil sie nicht unbedingt den selben Limitierungen unterliegt. Als Beispiel:
Eine Spezies will sicherstellen, dass sie weiterbesteht, also nicht austirbt. Da die einzelnen Lebewesen aber nicht ewig leben, müssen immer wieder neue enstehen. Also geht der Entwicklungsdruck für die Spezies dahin, dass die Individuen sich vermehren wollen.
Eine KI hätte also diesen Entwicklungsdruck garnicht, da seine Lebenszeit ja nicht begrenzt ist.

Wo ich dir aber Recht gebe, ist bei der Redundanz. Und da kommt es halt wieder drauf an, was die KI höher einschätzt. Entweder es geht die Gefahr ein, dass mit diesem einen Individuum (also ihm selbst) etwas kaputt geht und daher die "Spezies" der KI ausstirbt, oder es erschafft sich selbst Konkurrenz um die limitierten Ressourcen.

@ puck
Jep, seh ich genauso.

 

[feuervogt]

AW: Gedankenspiel: KIs und wir

Und ich glaube, du hast mich etwas missverstanden. Das unsere Spezies sich als ziemlich gut ansieht, versteht sich von selber. Ich meinte es aber vom evolutionstaktischen Stand aus. Und da ist ein großes Gehirn und ein mächtiger Neokortex nicht das nonplusultra. Ansonsten hätten nämlich nicht alle Lebewesen, die auf ein Gehirn verzichten können, es wieder zurückentwickelt, weil es einfach zu energieaufwendig ist.

Was evolutionstaktisch sinnvoll ist, interessiert das "intelligenteste" Wesen vielleicht erst dann, wenn es die Ausweglosigkeit seines Handelns erkannt hat (und damit vielleicht nur dem nächsten global Player Platz macht).

Was die rechtzeitige Anpassung an ändernde Lebensumstände geht, gibt’s auch wieder große Unterschiede. Eine KI würde sich durch eigenständige Umprogrammierung an diese Umstände anpassen können. Das können wir nicht, weswegen wir den Weg mit Reproduktion, Variation und Selektion gehen müssen. Würde eine KI diesen Weg gehen, würde es nur eine weitere KI erschaffen, die sie verdrängen kann. Das wäre aber unlogisch, da sie ja eigentlich keine begrenzte Lebenszeit hat.

Da stimme ich Dir nur bedingt zu. Zellteilung führt ebenfalls zu ewigem Leben, wenn das Problem der Degeneration wegfällt. Hat nur leider bisher nicht geklappt, weshalb die Natur sich ein ziemlich raffiniertes System zur DNS Vermischung ausgedacht hat. Wir als Organismus könnten (lassen wir den Zeitfaktor außen vor) uns ebenfalls durch "Umprogrammierung" anpassen. Im Verbund mit der Zellteilung also ein gar nicht so schlechtes Unterfangen - theoretisch.

Auch eine KI, die ja letztlich auf physischen Systemen aufbaut, ist nicht endlos haltbar. Silizium (oder andere Materialien) sind nicht ewig beständig und produzieren unter "Stress" Fehler. Selbst digitale Kopien verlieren, nach entsprechend häufigem Kopieren, Informationen durch die Unzulänglichkeit der Speichermedien. Das Problem der Degeneration beträfe demnach auch eine KI. Da sie sich also nicht endlos in ihrem Zustand erhalten kann, muss sie nach einer Möglichkeit suchen, sich so zu reproduzieren, dass der schadhafte Code repariert oder verbessert wird. Damit aber wäre die Kopie nicht mehr eine Kopie des Originals, sondern eine sehr ähnliche Abschrift. Übertragen auf zwei KIen, die gemeinsam eine neue KI erschaffen, wäre genügend Material vorhanden, um das neu erschaffene Wesen bei der Geburt zu bereinigen und die bisherigen Fehler weitestgehend nicht einzukopieren. Insgesamt lebt die KI als solches weiter, obwohl ihre individuellen Ausprägungen zeitlich begrenzt existieren.

Eine Spezies will sicherstellen, dass sie weiterbesteht, also nicht ausstirbt. Da die einzelnen Lebewesen aber nicht ewig leben, müssen immer wieder neue entstehen. Also geht der Entwicklungsdruck für die Spezies dahin, dass die Individuen sich vermehren wollen.
Eine KI hätte also diesen Entwicklungsdruck gar nicht, da seine Lebenszeit ja nicht begrenzt ist.

Doch, ist sie, siehe oben. Zumindest besteht die Gefahr. Und das ist ein starker Motivator.

@Puk & Darwinismus:

Natürlich spielt der Zufall eine Rolle, allerdings auch für die KI, demzufolge sind die Bedingungen für beide Parteien gleich, wenn auch mit rudminentär anderen Prioritäten. Auch dem Supercomputer kann ein Meteorit aufs Gehäuse fallen oder der Rost seine Eingeweide fressen, weil Rost plötzlich auch durch Kunststoff diffundiert... Am Ende wird es sich ausgleichen.

 

[Tufir]

AW: Gedankenspiel: KIs und wir

Ich fache diese Diskussion mal ein wenig an und stelle ein paar Thesen und Forderungen auf:

• Wenn man eine echte KI hat, braucht man keine zweite!
• Eine KI muss fraktal sein, d. h. jede Abspaltung weiß und kann das gleiche, wie das Elternteil - und ist damit geistig identisch und kann somit jederzeit rückgängig gemacht werden durch Reintegration der Abspaltung
• Jede KI braucht einen Überlebensinstikt (oder auch Willen dazu) und dieser darf nicht in Konkurrenz zu dem des Menschen oder einer anderen biologischen Lebensform stehen
• Die "Symbiose" von Mensch und KI darf nicht von Hierarchien geprägt sein, sondern muss auf Gleichberechtigung fußen!

Macht was draus!

 

[puck]

AW: Gedankenspiel: KIs und wir

@Puk & Darwinismus:

Natürlich spielt der Zufall eine Rolle, allerdings auch für die KI, demzufolge sind die Bedingungen für beide Parteien gleich, wenn auch mit rudminentär anderen Prioritäten. Auch dem Supercomputer kann ein Meteorit aufs Gehäuse fallen oder der Rost seine Eingeweide fressen, weil Rost plötzlich auch durch Kunststoff diffundiert... Am Ende wird es sich ausgleichen.

Natürlich spielt der Zufall für die hypothetische KI auch eine Rolle, ich habe nie das Gegenteil behauptet. Ich wollte den Evolutionsbegriff, nur etwas ausweiten. Menschen, die sich damit nicht so häufig beschäftigen tun sich erfahrungsgemäß etwas schwierig über Darwin hinauszudenken.

• Wenn man eine echte KI hat, braucht man keine zweite!

Wer sagt denn, dass es darum geht eine zu brauchen. Vielleicht ist sie eines Tages einfach da. Allerdings könnten sich verschiedene KIs auch unterscheiden. Ich kann mir vorstellen, dass KIs auch so etwas wie eine Persönlichkeit entwickeln die kann einiges aus machen.
Aber nicht nur auf der Persönlichkeitsebene kann ich mir Unterschiede vielleicht lernt eine effektiver oder hat andere kognitive Vor- bzw. Nachteile.

• Eine KI muss fraktal sein, d. h. jede Abspaltung weiß und kann das gleiche, wie das Elternteil - und ist damit geistig identisch und kann somit jederzeit rückgängig gemacht werden durch Reintegration der Abspaltung

Wozu soll die Reintegration dienen, wenn die KI damit nur in den Zustand versetzt wird, den sie hätte, wenn es nie eine Fraktionierung gegeben hätte. Deine Reintegration stellt damit nur das löschen der einen Kopie dar. Außerdem widerspricht das ganze meinem Verständnis einer Intelligenz. Wird sie zu einem beliebigen Zeitpunkt dupliziert um beide Kopien ein gewisses Zeitintervall getrennt existieren zu lassen, werden sie unterschiedliche Erfahrungen machen und damit nicht mehr "geistig identisch" sein. Ähnlich wie eineiige Zwillinge ab dem Zeitpunkt ihrer Geburt.

• Jede KI braucht einen Überlebensinstikt (oder auch Willen dazu) und dieser darf nicht in Konkurrenz zu dem des Menschen oder einer anderen biologischen Lebensform stehen

Ist es eine wahre Intelligenz, kann ihr niemand vorschreiben was sie zu wollen hat, also kann sie auch existieren wenn sie dem Menschen nichts gutes will. Du weißt ja: "Der Wille ist des Menschen Himmelreich." Das lässt sich prizipiell auf alle Intelligenzen übertragen.

• Die "Symbiose" von Mensch und KI darf nicht von Hierarchien geprägt sein, sondern muss auf Gleichberechtigung fußen!

Das stelle ich mir schwierig vor, da wir Menschen schon untereinander kaum ohne Hierarchien leben (können/wollen). Selbst wenn die KI dazu in der Lage sein sollte, scheitert das an unserer eigenen Unzulänglichkeit. Aber vielleicht hat der Mensch bis zu dem Tag, an dem die KI das Licht der Welt erblickt auch gelernt.

Ich glaube der alte ruf als "Bad Guy" kommt daher, dass die KI so anders ist, dass man sich kaum vorstellen kann sie würde die moralischen Grundsätze der Menschen teilen. Dennoch würde sie sicher dazu entwickelt werden etwas wichtiges zu tun und dementsprechend eine gewisse Macht haben. Vielleicht sogar eine Aufgabe, die einem Menschen durch seine Erziehung schwer fallen würde. Und Macht ohne moralische fesseln ist nunmal gefährlich.
Dennoch würde niemand einer KI so viel Macht geben, ohne sich irgendwie abzusichern. In vielen Staatsformen gibt es ja auch Mechanismen um Machtinhaber wieder los zu werden. Obwohl die Geschichte natürlich auch Zeigt, dass diese Mechanismen nicht perfekt sind.

Bleibt tapfer,

puck

 

[SoulReaper]

AW: Gedankenspiel: KIs und wir

Gut, dann mache ich jetzt auch mal einen Schnitt unter die Diskussion und gehe sie quasi nochmal neu an.

Wenn man eine echte KI hat, braucht man keine zweite!

Ich glaube zu wissen, was du meinst, Tufir. Bei den heutigen lernenden Algorythmen müssen diese immer an das zu lösende Problem designt werden. Dies würde bei einer KI wegfallen. Von daher ok, stimme ich dem zu.

Eine KI muss fraktal sein, d. h. jede Abspaltung weiß und kann das gleiche, wie das Elternteil - und ist damit geistig identisch und kann somit jederzeit rückgängig gemacht werden durch Reintegration der Abspaltung

Zur Zeit der Abspaltung ist dies auch klar. Aber sofort danach bekommt jede KI ihre eigenen Lerninputs, wodurch sie sich unweigerlich unterscheiden werden.

Jede KI braucht einen Überlebensinstikt (oder auch Willen dazu) und dieser darf nicht in Konkurrenz zu dem des Menschen oder einer anderen biologischen Lebensform stehen

Dazu sag ich später noch was...

Die "Symbiose" von Mensch und KI darf nicht von Hierarchien geprägt sein, sondern muss auf Gleichberechtigung fußen!Macht was draus!

Das wird nicht realisierbar sein. Niemand würde eine KI bauen und ihr eine Aufgabe übertragen, ohne dass er die Kontrolle über die KI behalten kann.



In den letzten Tagen habe ich mir die Diskussion hier nochmal durch den Kopf gehen lassen. Und dabei ist mir ein Punkt aufgefallen, wo unsere Diskussion meiner Meinung nach zu sehr an dem Hing, was die Science-Fiction uns bisher vorgegeben hat. Was ich damit meine ist folgendes:

Was ist Intelligenz? Doch wohl die Fähigkeit, Aufgabenstellungen zu lösen, ohne dafür auf vordefinierte Lösungswege oder -elemente zurückgreifen zu müssen. Das bedeutet auch, dass sie vorher gelerntes Wissen abstrahiert anweden können.
Wenn etwas diese Fähigkeit besitzt, muss es dann auch gleichzeitig ein Bewusstsein für sich selbst besitzen, dass dem eines Menschen gleicht? Hier sage ich nein! Dies ist möglich, aber nicht notwendig. Wenn viele Lebewesen besitzen die oben genannten Fähigkeiten der Abstraktion und Problemlösung, ohne ein menschliches Bewusstsein. Genauso stehts dann für eine KI.

Und ab hier fangen dann für mich die Unwägbarkeiten ab. Denn ab hier hängt es ganz stark davon ab, wie die KI aufgebaut ist, wie sie lernt und was sie lernt.
Wie mein Professor für Bionik schon sagte: Auf die Frage, was ist besser, gibts nur die Antwort, kommt drauf an.

 

[feuervogt]

AW: Gedankenspiel: KIs und wir

• Die "Symbiose" von Mensch und KI darf nicht von Hierarchien geprägt sein, sondern muss auf Gleichberechtigung fußen!

Das wird imho nicht möglich sein. Wie Soulreaper schon schrieb, wird der Mensch keine Maschine erschaffen (wollen), die er nicht kontrollieren können wird. Sie wäre demnach also nicht gleichberechtigt. Würde sie sich jedoch als eigenständiges Wesen weiterentwickeln und aus der vorgegebenen Bahn ausbrechen, wäre sie vielleicht formell und aufgrund ihrer eigenständigen Fähigkeiten gleichberechtigt, würde aber philosophisch sicher als potenziell gefährlich eingestuft. Eine tatsächliche Gleichberechtigung wäre demzufolge wegen der dann vorhandenenen Furcht (auf beiden Seiten) dauerhaft kaum durchzusetzen.

Da Du selbst verlangst, dass eine KI einen Überlebenswillen besitzt, muss sie ein gewisses Aggressionpotenzial mitbringen. Und wie ich ja bereits schrieb, wird Minderwertiges (wer immer das entscheidet oder berechnet) aussortiert.

Bei der Reintegration stört, wie soulreaper ja auch schon sagte, die jeweilige Lernsituation nach der Abspaltung. Aber selbst, wenn eine Integration der neuen Fähigkeiten möglich wäre und dadurch nur zu einer neuerlichen Lernerfahrung führt, wäre noch immer das Problem der notwendigen Redundanz und der damit enstandenen unterschiedlichen KIs.

 

[Ancoron]

AW: Gedankenspiel: KIs und wir

Ich gebe zu, ich hab mal wieder nur die erste Seite gelesen und den Rest überflogen; aber ich denke, das ich genug von der Fachsimpelei verstehe, um auch meinen Senf oder die kleine Überlegung abzugeben, die mir grade in den Sinn kam:

Aus meiner Sicht ist eine KI nicht möglich, da eine selbstdenkende Maschine, die von Menschen geschaffen wurde, sich nach kürzester Zeit selbst zerstören würde. Zu diesem Schluß komme ich aus folgendem Grund:

- die Menschheit ist (sorry) schlicht und ergreifend rotzblöd und unlogisch

Wenn also jemand, dessen Verhalten und dessen Denkprozesse auf Unlogik und Willkür bassieren, eine selbstdenkende Maschine baut, die ja nur mit Logik denken kann, wird diese sich schon während des lernens in Widersprüche verwickeln und über kurz oder lang nen Kollaps erleiden. Denke ich.....

 

[feuervogt]

AW: Gedankenspiel: KIs und wir

Ich gebe zu, ich hab mal wieder nur die erste Seite gelesen und den Rest überflogen [...]

Dann hast Du die interessantesten Seiten aber ausgelassen....

 

[Tufir]

AW: Gedankenspiel: KIs und wir

Dann hast Du die interessantesten Seiten aber ausgelassen....

... und damit das Meiste und viel Wesentliches verpasst!

 

[SoulReaper]

AW: Gedankenspiel: KIs und wir

Aus meiner Sicht ist eine KI nicht möglich, da eine selbstdenkende Maschine, die von Menschen geschaffen wurde, sich nach kürzester Zeit selbst zerstören würde. Zu diesem Schluß komme ich aus folgendem Grund:

- die Menschheit ist (sorry) schlicht und ergreifend rotzblöd und unlogisch

Wenn also jemand, dessen Verhalten und dessen Denkprozesse auf Unlogik und Willkür bassieren, eine selbstdenkende Maschine baut, die ja nur mit Logik denken kann, wird diese sich schon während des lernens in Widersprüche verwickeln und über kurz oder lang nen Kollaps erleiden. Denke ich.....

Erstmal stimme ich dir dem zu, was du über die Menschheit gesagt hast, ich seh das ähnlich.

Nichtsdestotrotz halte ich eine KI für möglich. Denn im wesentlichen (und zugegebener Weise auf eine etwas abstrahierte Weise) arbeitet unser Gehirn auch rein logisch. Da wir allerdings nie alle Parameter kennen, erscheint es mitunter chaotisch zu arbeiten. Ebenso wird es mit einer KI sein. Sie bekommt ihren input und verarbeitet diesen mittels ihrer gegebenen programmierten "Architektur" und gibt dann einen Output raus, der nicht logisch erscheinen muss. Ganz ähnlich arbeiten bereits heutige Verfahren, wie gewisse Algorythmen für Schwarmbewusstsein oder eben auch die künstlichen neuronalen Netze. Diese arbeiten immer nach der Devise, dass ihr Lösung für ein Problem zwar gut ist, aber nicht gezwungener Maße die beste Lösung sein muss.

 

[Samsonium]

AW: Gedankenspiel: KIs und wir

Ja,
das sehe ich ähnlich wie Ancoron. Es sei denn, die KI fände eine Möglichkeit der Entropie entgegenzuwirken. Ansonsten wäre so eine von Menschen geschaffene KI wohl auch dem Untergang geweiht, ähnlich der Menschheit.
Nur würde es schneller gehen, weil so eine KI weniger mit der Masseträgheit zu kämpfen hätte und eine beschleunigte Evolution, jedenfalls im Vergleich zur Menschheit.
Ein wichtiger Schlüssel hier scheint das Vergessen zu sein, damit nicht ein Übermaß an Information deren Fluß behindert.

LG Sam