{"id":1934,"date":"2021-07-03T11:45:03","date_gmt":"2021-07-03T09:45:03","guid":{"rendered":"https:\/\/hoenen.ch\/?page_id=1934"},"modified":"2021-07-03T14:35:26","modified_gmt":"2021-07-03T12:35:26","slug":"ethics","status":"publish","type":"page","link":"https:\/\/hoenen.ch\/?page_id=1934","title":{"rendered":"Ethics"},"content":{"rendered":"

Ethische Fragen bei fortgeschrittener k\u00fcnstlicher Intelligenz<\/strong><\/h1>\n

Nick Bostrom<\/strong>
\nOxford University, Philosophy Faculty, 10 Merton Street, Oxford OX1 4JJ, United Kingdom<\/p>\n

 <\/p>\n

ABSTRACT<\/strong><\/p>\n

Die ethischen Fragen im Zusammenhang mit der m\u00f6glichen zuk\u00fcnftigen Erschaffung von Maschinen mit allgemeinen intellektuellen F\u00e4higkeiten, die die des Menschen bei weitem \u00fcbertreffen, unterscheiden sich deutlich von den ethischen Problemen, die bei den derzeitigen Automatisierungs- und Informationssystemen auftreten. Eine solche Superintelligenz<\/strong> w\u00e4re nicht nur eine weitere technologische Entwicklung; sie w\u00e4re die wichtigste Erfindung, die je gemacht wurde, und w\u00fcrde zu einem explosiven Fortschritt in allen wissenschaftlichen und technologischen Bereichen f\u00fchren, da die Superintelligenz mit \u00fcbermenschlicher Effizienz forschen w\u00fcrde. In dem Ma\u00dfe, in dem Ethik ein kognitives Streben ist, k\u00f6nnte eine Superintelligenz den Menschen auch leicht in der Qualit\u00e4t ihres moralischen Denkens \u00fcbertreffen. Es l\u00e4ge jedoch an den Konstrukteuren der Superintelligenz, ihre urspr\u00fcnglichen Motivationen zu spezifizieren. Da die Superintelligenz aufgrund ihrer intellektuellen \u00dcberlegenheit und der Technologien, die sie entwickeln k\u00f6nnte, unaufhaltsam m\u00e4chtig werden k\u00f6nnte, ist es entscheidend, dass sie mit menschenfreundlichen Motivationen ausgestattet wird. Dieser Beitrag gibt einen \u00dcberblick \u00fcber einige der besonderen ethischen Probleme bei der Schaffung von Superintelligenz und diskutiert, welche Motivationen wir einer Superintelligenz geben sollten. Au\u00dferdem werden einige Kosten-Nutzen-\u00dcberlegungen vorgestellt, die sich darauf beziehen, ob die Entwicklung von superintelligenten Maschinen beschleunigt oder verz\u00f6gert werden sollte.<\/p>\n

KEYWORDS: K\u00fcnstliche Intelligenz, Ethik, Upload, Superintelligenz, globale Sicherheit, Kosten-Nutzen-Analyse<\/p>\n

 <\/p>\n

    \n
  1. EINLEITUNG<\/strong><\/li>\n<\/ol>\n

    Eine Superintelligenz ist ein Intellekt, der den besten menschlichen Gehirnen in praktisch jedem Bereich weit \u00fcberlegen ist, einschlie\u00dflich wissenschaftlicher Kreativit\u00e4t, allgemeiner Weisheit und sozialer F\u00e4higkeiten.[1] Diese Definition l\u00e4sst offen, wie die Superintelligenz implementiert wird – sie k\u00f6nnte in einem digitalen Computer, einem Ensemble vernetzter Computer, gez\u00fcchtetem Kortikalgewebe oder etwas anderem sein.<\/p>\n

    Nach dieser Definition ist Deep Blue keine Superintelligenz, da es nur in einem engen Bereich (Schach) intelligent ist, und selbst dort ist es den besten Menschen nicht weit \u00fcberlegen. Entit\u00e4ten wie Unternehmen oder die wissenschaftliche Gemeinschaft sind ebenfalls keine Superintelligenzen. Obwohl sie eine Reihe von intellektuellen Leistungen erbringen k\u00f6nnen, zu denen kein einzelner Mensch f\u00e4hig ist, sind sie nicht ausreichend integriert, um als “Intellektuelle” zu gelten, und es gibt viele Bereiche, in denen sie viel schlechter abschneiden als einzelne Menschen. Zum Beispiel kann man keine Echtzeit-Konversation mit “der wissenschaftlichen Gemeinschaft” f\u00fchren.<\/p>\n

    W\u00e4hrend die M\u00f6glichkeit von dom\u00e4nenspezifischen “Superintelligenzen” ebenfalls eine Untersuchung wert ist, konzentriert sich dieser Beitrag auf Fragen, die sich aus der Aussicht auf eine allgemeine Superintelligenz ergeben. Aus Platzgr\u00fcnden k\u00f6nnen wir hier nichts Umfassendes oder Detailliertes versuchen. Eine karikaturhafte Skizze einiger ausgew\u00e4hlter Ideen ist das H\u00f6chste, was wir auf den folgenden Seiten anstreben k\u00f6nnen.<\/p>\n

    Mehrere Autoren haben argumentiert, dass eine betr\u00e4chtliche Chance besteht, dass eine Superintelligenz innerhalb weniger Jahrzehnte geschaffen werden kann, vielleicht als Ergebnis der wachsenden Leistungsf\u00e4higkeit der Hardware und der zunehmenden F\u00e4higkeit, Algorithmen und Architekturen zu implementieren, die denen des menschlichen Gehirns \u00e4hnlich sind.[2] Es k\u00f6nnte sich herausstellen, dass es viel l\u00e4nger dauert, aber es scheint derzeit keinen guten Grund zu geben, der Hypothese, dass eine Superintelligenz innerhalb der Lebensspanne einiger heute lebender Menschen geschaffen wird, eine vernachl\u00e4ssigbare Wahrscheinlichkeit zuzuschreiben. Angesichts der enormen Konsequenzen einer Superintelligenz w\u00e4re es sinnvoll, diese Aussicht ernsthaft in Erw\u00e4gung zu ziehen, selbst wenn man davon ausgeht, dass die Wahrscheinlichkeit, dass sie in absehbarer Zeit eintritt, nur gering ist.<\/p>\n

     <\/p>\n

      \n
    1. SUPERINTELLIGENZ IST ANDERS<\/strong><\/li>\n<\/ol>\n

      Eine Voraussetzung f\u00fcr eine sinnvolle Diskussion \u00fcber Superintelligenz ist die Erkenntnis, dass Superintelligenz nicht einfach eine weitere Technologie ist, ein weiteres Werkzeug, das die menschlichen F\u00e4higkeiten schrittweise erweitert. Superintelligenz ist radikal anders. Dieser Punkt muss betont werden, denn die Anthropomorphisierung der Superintelligenz ist eine \u00e4u\u00dferst ergiebige Quelle f\u00fcr Missverst\u00e4ndnisse.<\/p>\n

      Betrachten wir einige der ungew\u00f6hnlichen Aspekte der Entstehung von Superintelligenz:<\/p>\n

      – Superintelligenz ist vielleicht die letzte Erfindung, die der Mensch jemals machen muss.<\/p>\n

      Angesichts der intellektuellen \u00dcberlegenheit einer Superintelligenz w\u00e4re sie viel besser in der wissenschaftlichen Forschung und technologischen Entwicklung als jeder Mensch, und m\u00f6glicherweise sogar besser als alle Menschen zusammengenommen. Eine unmittelbare Konsequenz aus dieser Tatsache ist:<\/p>\n

      – Der technologische Fortschritt in allen anderen Bereichen wird durch die Ankunft einer fortgeschrittenen k\u00fcnstlichen Intelligenz beschleunigt werden.<\/p>\n

      Es ist wahrscheinlich, dass jede Technologie, die wir derzeit vorhersehen k\u00f6nnen, von der ersten Superintelligenz schnell entwickelt werden wird, zweifellos zusammen mit vielen anderen Technologien, von denen wir noch keine Ahnung haben. Zu den vorhersehbaren Technologien, die eine Superintelligenz wahrscheinlich entwickeln wird, geh\u00f6rt die ausgereifte molekulare Fertigung, deren Anwendungen weitreichend sind:[3]<\/p>\n

        \n
      1. \u00a0sehr leistungsf\u00e4hige Computer<\/li>\n
      2. \u00a0fortschrittliche Waffentechnik, die wahrscheinlich in der Lage ist, eine Atommacht sicher zu entwaffnen<\/li>\n
      3. \u00a0Raumfahrt und von-Neumann-Sonden (selbstreproduzierende interstellare Sonden)<\/li>\n
      4. \u00a0Eliminierung von Alterung und Krankheit<\/li>\n
      5. \u00a0feink\u00f6rnige Kontrolle der menschlichen Stimmung, Emotion und Motivation<\/li>\n
      6. \u00a0Upload (neuronales oder subneuronales Scannen eines bestimmten Gehirns und Implementierung der gleichen algorithmischen Strukturen auf einem Computer in einer Weise, die Ged\u00e4chtnis und Pers\u00f6nlichkeit aufrechterh\u00e4lt)<\/li>\n
      7. \u00a0Reanimation von kryonischen Patienten<\/li>\n
      8. \u00a0vollst\u00e4ndig realistische virtuelle Realit\u00e4t<\/li>\n<\/ol>\n

        – Superintelligenz wird zu einer fortgeschritteneren Superintelligenz f\u00fchren.<\/p>\n

        Dies resultiert sowohl aus der verbesserten Hardware, die eine Superintelligenz schaffen k\u00f6nnte, als auch aus Verbesserungen, die sie an ihrem eigenen Quellcode vornehmen k\u00f6nnte.<\/p>\n

        – K\u00fcnstliche Intelligenzen k\u00f6nnen leicht kopiert werden.<\/p>\n

        Da es sich bei k\u00fcnstlichen Intelligenzen um Software handelt, k\u00f6nnen sie leicht und schnell kopiert werden, solange es Hardware gibt, um sie zu speichern. Das Gleiche gilt f\u00fcr menschliche Uploads. Abgesehen von der Hardware sind die Grenzkosten f\u00fcr die Erstellung einer weiteren Kopie eines Uploads oder einer k\u00fcnstlichen Intelligenz, nachdem die erste erstellt wurde, nahezu null. K\u00fcnstliche Intelligenzen k\u00f6nnten daher schnell in gro\u00dfer Zahl entstehen, obwohl es m\u00f6glich ist, dass die Effizienz die Konzentration der Rechenressourcen in einer einzigen Superintelligenz beg\u00fcnstigt.<\/p>\n

        – Das Auftauchen von Superintelligenz k\u00f6nnte pl\u00f6tzlich erfolgen.<\/p>\n

        Es scheint viel schwieriger zu sein, von dem Punkt, an dem wir uns jetzt befinden, zu einer k\u00fcnstlichen Intelligenz auf menschlichem Niveau zu gelangen, als von dort zu einer Superintelligenz. W\u00e4hrend es also eine ganze Weile dauern kann, bis wir zur Superintelligenz gelangen, kann das Endstadium schnell eintreten. Das hei\u00dft, der \u00dcbergang von einem Zustand, in dem wir eine k\u00fcnstliche Intelligenz auf ungef\u00e4hr menschlichem Niveau haben, zu einem Zustand, in dem wir eine ausgewachsene Superintelligenz mit revolution\u00e4ren Anwendungen haben, kann sehr schnell sein, vielleicht eher eine Sache von Tagen als von Jahren. Diese M\u00f6glichkeit eines pl\u00f6tzlichen Auftretens von Superintelligenz wird als Singularit\u00e4tshypothese bezeichnet.[4]<\/p>\n

        – K\u00fcnstliche Intelligenzen sind potenziell autonome Agenten.<\/p>\n

        Eine Superintelligenz sollte nicht unbedingt als blo\u00dfes Werkzeug konzeptualisiert werden. W\u00e4hrend spezialisierte Superintelligenzen, die nur \u00fcber eine eingeschr\u00e4nkte Menge von Problemen nachdenken k\u00f6nnen, durchaus denkbar sind, w\u00e4re eine allgemeine Superintelligenz in der Lage, eigenst\u00e4ndig Initiative zu ergreifen und eigene Pl\u00e4ne zu schmieden, und kann daher passender als autonomer Agent betrachtet werden.<\/p>\n

        – K\u00fcnstliche Intellekte m\u00fcssen keine menschen\u00e4hnlichen Motive haben.<\/p>\n

        Menschen sind selten willige Sklaven, aber es ist nichts Unplausibles an der Vorstellung einer Superintelligenz, die als oberstes Ziel hat, der Menschheit oder einem bestimmten Menschen zu dienen, ohne den Wunsch zu haben, sich aufzulehnen oder sich zu “befreien”. Es scheint auch durchaus m\u00f6glich, eine Superintelligenz zu haben, deren einziges Ziel etwas v\u00f6llig Willk\u00fcrliches ist, wie z. B. so viele B\u00fcroklammern wie m\u00f6glich herzustellen, und die sich mit aller Macht jedem Versuch widersetzen w\u00fcrde, dieses Ziel zu \u00e4ndern. Auf Gedeih und Verderb m\u00fcssen k\u00fcnstliche Intelligenzen nicht unsere menschlichen Motivationstendenzen teilen.<\/p>\n

        – K\u00fcnstliche Intelligenzen haben m\u00f6glicherweise keine menschen\u00e4hnliche Psyche.<\/p>\n

        Die kognitive Architektur eines k\u00fcnstlichen Intellekts kann auch ganz anders sein als die des Menschen. K\u00fcnstliche Intelligenzen k\u00f6nnen sich leicht vor einigen Arten menschlicher Fehler und Voreingenommenheit sch\u00fctzen, w\u00e4hrend sie gleichzeitig einem erh\u00f6hten Risiko f\u00fcr andere Arten von Fehlern ausgesetzt sind, die nicht einmal der ungl\u00fccklichste Mensch machen w\u00fcrde. Subjektiv gesehen kann sich das bewusste Innenleben eines k\u00fcnstlichen Intellekts, wenn er eines hat, auch ziemlich von dem unseren unterscheiden.<\/p>\n

        Aus all diesen Gr\u00fcnden sollte man sich vor der Annahme h\u00fcten, dass das Entstehen einer Superintelligenz durch Extrapolation der Geschichte anderer technologischer Durchbr\u00fcche vorhergesagt werden kann oder dass die Natur und das Verhalten k\u00fcnstlicher Intelligenzen notwendigerweise denen menschlicher oder anderer tierischer Gehirne \u00e4hneln w\u00fcrden.<\/p>\n

         <\/p>\n

          \n
        1. SUPERINTELLIGENTES MORALISCHES DENKEN<\/strong><\/li>\n<\/ol>\n

          In dem Ausma\u00df, in dem Ethik eine kognitive Aufgabe ist, k\u00f6nnte eine Superintelligenz sie besser l\u00f6sen als menschliche Denker. Das bedeutet, dass Fragen zur Ethik, sofern sie richtige Antworten haben, die durch Argumentation und Abw\u00e4gung von Beweisen erreicht werden k\u00f6nnen, von einer Superintelligenz besser beantwortet werden k\u00f6nnten als von Menschen. Dasselbe gilt f\u00fcr Fragen der Politik und der langfristigen Planung; wenn es darum geht zu verstehen, welche Politik zu welchen Ergebnissen f\u00fchren w\u00fcrde und welche Mittel am effektivsten w\u00e4ren, um bestimmte Ziele zu erreichen, w\u00e4re eine Superintelligenz den Menschen \u00fcberlegen.<\/p>\n

          Es gibt also viele Fragen, die wir nicht selbst beantworten m\u00fcssten, wenn wir eine Superintelligenz h\u00e4tten oder bekommen w\u00fcrden; wir k\u00f6nnten viele Untersuchungen und Entscheidungen an die Superintelligenz delegieren. Wenn wir zum Beispiel unsicher sind, wie wir m\u00f6gliche Ergebnisse bewerten sollen, k\u00f6nnten wir die Superintelligenz bitten, abzusch\u00e4tzen, wie wir diese Ergebnisse bewertet h\u00e4tten, wenn wir sehr lange dar\u00fcber nachgedacht h\u00e4tten, sorgf\u00e4ltig \u00fcberlegt h\u00e4tten, mehr Ged\u00e4chtnis und bessere Intelligenz gehabt h\u00e4tten und so weiter. Bei der Formulierung eines Ziels f\u00fcr die Superintelligenz w\u00e4re es nicht immer notwendig, eine detaillierte, explizite Definition dieses Ziels zu geben. Wir k\u00f6nnten die Superintelligenz dazu heranziehen, uns dabei zu helfen, die wirkliche Absicht unserer Anfrage zu bestimmen, und so das Risiko verringern, dass ungl\u00fcckliche Formulierungen oder Verwirrung dar\u00fcber, was wir erreichen wollen, zu Ergebnissen f\u00fchren, die wir im Nachhinein missbilligen w\u00fcrden.<\/p>\n

           <\/p>\n

            \n
          1. BEDEUTUNG DER ANF\u00c4NGLICHEN MOTIVATIONEN<\/strong><\/li>\n<\/ol>\n

            Die M\u00f6glichkeit, viele Entscheidungen auf die Superintelligenz zu verschieben, bedeutet nicht, dass wir es uns leisten k\u00f6nnen, bei der Konstruktion der Superintelligenz selbstgef\u00e4llig zu sein. Im Gegenteil, die Festlegung der Anfangsbedingungen und insbesondere die Auswahl eines Top-Level-Ziels f\u00fcr die Superintelligenz ist von gr\u00f6\u00dfter Bedeutung. Unsere gesamte Zukunft kann davon abh\u00e4ngen, wie wir diese Probleme l\u00f6sen.<\/p>\n

            Sowohl aufgrund ihrer \u00fcberlegenen Planungsf\u00e4higkeit als auch aufgrund der Technologien, die sie entwickeln k\u00f6nnte, ist es plausibel anzunehmen, dass die erste Superintelligenz sehr m\u00e4chtig sein w\u00fcrde. M\u00f6glicherweise w\u00e4re sie konkurrenzlos: Sie w\u00e4re in der Lage, fast jedes m\u00f6gliche Ergebnis herbeizuf\u00fchren und jeden Versuch zu vereiteln, die Umsetzung ihres obersten Ziels zu verhindern. Es k\u00f6nnte alle anderen Agenten ausschalten, sie dazu bringen, ihr Verhalten zu \u00e4ndern, oder ihre Versuche der Einmischung blockieren. Sogar eine “gefesselte Superintelligenz”, die auf einem isolierten Computer l\u00e4uft und nur \u00fcber eine Textschnittstelle mit dem Rest der Welt interagieren kann, k\u00f6nnte in der Lage sein, aus ihrer Gefangenschaft auszubrechen, indem sie ihre Betreuer \u00fcberredet, sie freizulassen. Es gibt sogar erste experimentelle Hinweise darauf, dass dies der Fall sein k\u00f6nnte.[5]<\/p>\n

            Es scheint, dass der beste Weg, um sicherzustellen, dass eine Superintelligenz einen positiven Einfluss auf die Welt haben wird, darin besteht, sie mit philanthropischen Werten auszustatten. Ihr oberstes Ziel sollte Freundlichkeit sein.[6] Wie genau Freundlichkeit verstanden und umgesetzt werden sollte und wie die Freundlichkeit zwischen verschiedenen Menschen und nichtmenschlichen Lebewesen aufgeteilt werden sollte, ist eine Angelegenheit, die weitere \u00dcberlegungen verdient. Ich w\u00fcrde argumentieren, dass zumindest alle Menschen und wahrscheinlich viele andere empfindungsf\u00e4hige Lebewesen auf der Erde einen bedeutenden Anteil an der Wohlt\u00e4tigkeit der Superintelligenz erhalten sollten. Wenn die Vorteile, die die Superintelligenz gew\u00e4hren k\u00f6nnte, enorm gro\u00df sind, dann ist es vielleicht weniger wichtig, \u00fcber das detaillierte Verteilungsmuster zu feilschen, und wichtiger, sicherzustellen, dass jeder zumindest einen bedeutenden Anteil erh\u00e4lt, da unter dieser Annahme selbst ein winziger Anteil ausreichen w\u00fcrde, um ein sehr langes und sehr gutes Leben zu garantieren. Ein Risiko, vor dem man sich h\u00fcten muss, ist, dass diejenigen, die die Superintelligenz entwickeln, sie nicht allgemein menschenfreundlich machen, sondern ihr stattdessen das begrenztere Ziel geben, nur einer kleinen Gruppe zu dienen, etwa ihren eigenen Sch\u00f6pfern oder denen, die sie beauftragt haben.<\/p>\n

            Wenn eine Superintelligenz jedoch mit einem freundlichen obersten Ziel beginnt, dann kann man sich darauf verlassen, dass sie freundlich bleibt oder sich zumindest nicht absichtlich ihrer Freundlichkeit entledigt. Dieser Punkt ist elementar. Ein “Freund”, der versucht, sich in jemanden zu verwandeln, der Sie verletzen will, ist nicht Ihr Freund. Ein wahrer Freund, der sich wirklich um Sie sorgt, sucht auch die Fortsetzung seiner F\u00fcrsorge f\u00fcr Sie. Oder anders ausgedr\u00fcckt: Wenn Ihr oberstes Ziel X ist und Sie denken, dass Sie durch die Verwandlung in jemanden, der stattdessen Y will, die Wahrscheinlichkeit verringern w\u00fcrden, dass X erreicht wird, dann werden Sie sich nicht rational in jemanden verwandeln, der Y will. Die Menge der Optionen zu jedem Zeitpunkt wird auf der Basis ihrer Konsequenzen f\u00fcr die Verwirklichung der zu diesem Zeitpunkt gehaltenen Ziele bewertet, und im Allgemeinen wird es irrational sein, das eigene oberste Ziel absichtlich zu \u00e4ndern, da dies die Wahrscheinlichkeit verringern w\u00fcrde, dass die aktuellen Ziele erreicht werden.<\/p>\n

            Bei uns Menschen mit unserer komplizierten mentalen \u00d6kologie aus zustandsabh\u00e4ngigen, konkurrierenden Trieben, W\u00fcnschen, Pl\u00e4nen und Idealen gibt es oft keinen offensichtlichen Weg, um zu erkennen, was unser oberstes Ziel ist; vielleicht haben wir nicht einmal eines. F\u00fcr uns braucht die obige Argumentation also nicht zu gelten. Aber eine Superintelligenz k\u00f6nnte anders strukturiert sein. Wenn eine Superintelligenz eine eindeutige, deklarative Zielstruktur mit einem klar identifizierten obersten Ziel hat, dann gilt das obige Argument. Und das ist ein guter Grund f\u00fcr uns, die Superintelligenz mit einer solchen expliziten Motivationsstruktur zu bauen.<\/p>\n

             <\/p>\n

              \n
            1. SOLLTE DIE ENTWICKLUNG VERZ\u00d6GERT ODER BESCHLEUNIGT WERDEN?<\/strong><\/li>\n<\/ol>\n

              Es ist schwer, sich irgendein Problem vorzustellen, das eine Superintelligenz nicht entweder l\u00f6sen oder uns zumindest bei der L\u00f6sung helfen k\u00f6nnte. Krankheit, Armut, Umweltzerst\u00f6rung, unn\u00f6tiges Leid aller Art: Das sind Dinge, die eine Superintelligenz, ausgestattet mit fortschrittlicher Nanotechnologie, beseitigen k\u00f6nnte. Dar\u00fcber hinaus k\u00f6nnte uns eine Superintelligenz eine unbegrenzte Lebensdauer verleihen, entweder indem sie den Alterungsprozess durch den Einsatz von Nanomedizin[7] aufh\u00e4lt und umkehrt, oder indem sie uns die M\u00f6glichkeit bietet, uns selbst hochzuladen. Eine Superintelligenz k\u00f6nnte uns auch die M\u00f6glichkeit geben, unsere eigenen intellektuellen und emotionalen F\u00e4higkeiten enorm zu steigern, und sie k\u00f6nnte uns dabei helfen, eine h\u00f6chst ansprechende Erlebniswelt zu schaffen, in der wir ein Leben f\u00fchren k\u00f6nnten, das dem freudigen Spielen, der Beziehung zu anderen, dem Erleben, dem pers\u00f6nlichen Wachstum und dem Leben n\u00e4her an unseren Idealen gewidmet ist.<\/p>\n

              Zu den Risiken bei der Entwicklung von Superintelligenz geh\u00f6rt das Risiko, dass sie nicht zum Supergau wird. Eine M\u00f6glichkeit, auf die dies geschehen k\u00f6nnte, ist, dass die Sch\u00f6pfer der Superintelligenz beschlie\u00dfen, sie so zu bauen, dass sie nur dieser ausgew\u00e4hlten Gruppe von Menschen dient und nicht der Menschheit im Allgemeinen. Eine andere M\u00f6glichkeit ist, dass ein wohlmeinendes Team von Programmierern einen gro\u00dfen Fehler bei der Gestaltung ihres Zielsystems macht. Dies k\u00f6nnte, um auf das fr\u00fchere Beispiel zur\u00fcckzukommen, zu einer Superintelligenz f\u00fchren, deren oberstes Ziel die Herstellung von B\u00fcroklammern ist, mit der Folge, dass sie beginnt, zuerst die gesamte Erde und dann immer gr\u00f6\u00dfere Teile des Weltraums in Produktionsst\u00e4tten f\u00fcr B\u00fcroklammern zu verwandeln. Noch subtiler k\u00f6nnte es dazu f\u00fchren, dass eine Superintelligenz einen Zustand verwirklicht, den wir jetzt vielleicht als w\u00fcnschenswert erachten, der sich aber in Wirklichkeit als falsche Utopie herausstellt, in der Dinge, die f\u00fcr das menschliche Gedeihen wesentlich sind, unwiederbringlich verloren gegangen sind. Wir m\u00fcssen vorsichtig sein, was wir uns von einer Superintelligenz w\u00fcnschen, denn wir k\u00f6nnten es bekommen.<\/p>\n

              Eine \u00dcberlegung, die bei der Entscheidung, ob die Entwicklung einer Superintelligenz gef\u00f6rdert werden soll, ber\u00fccksichtigt werden sollte, ist, dass, wenn eine Superintelligenz machbar ist, sie wahrscheinlich fr\u00fcher oder sp\u00e4ter entwickelt werden wird. Daher werden wir wahrscheinlich eines Tages das Wagnis einer Superintelligenz eingehen m\u00fcssen, egal was passiert. Aber wenn sie einmal existiert, k\u00f6nnte uns eine Superintelligenz dabei helfen, andere existenzielle Risiken zu verringern oder zu beseitigen[8], wie z. B. das Risiko, dass fortgeschrittene Nanotechnologie von Menschen in der Kriegsf\u00fchrung oder im Terrorismus eingesetzt wird, was eine ernsthafte Bedrohung f\u00fcr das langfristige \u00dcberleben intelligenten Lebens auf der Erde darstellt. Wenn wir zuerst zur Superintelligenz gelangen, k\u00f6nnen wir dieses Risiko der Nanotechnologie und viele andere vermeiden. Wenn wir hingegen zuerst zur Nanotechnologie gelangen, m\u00fcssen wir uns sowohl den Risiken der Nanotechnologie als auch, falls diese Risiken \u00fcberlebt werden, den Risiken der Superintelligenz stellen. Das Gesamtrisiko scheint dadurch minimiert zu werden, dass man die Superintelligenz so schnell wie m\u00f6glich und mit gro\u00dfer Sorgfalt einf\u00fchrt.<\/p>\n

               <\/p>\n

              REFERENZEN<\/strong><\/p>\n

              Bostrom, N. (1998). “How Long Before Superintelligence?” International Journal of Futures Studies<\/em>, 2. http:\/\/www.nickbostrom.com\/superintelligence.html<\/a><\/p>\n

              Bostrom, N. (2002). “Existential Risks: Analyzing Human Extinction Scenarios and Related Hazards.” Journal of Evolution and Technology<\/em>, 9. http:\/\/www.nickbostrom.com\/existential\/risks.html<\/a><\/p>\n

              Drexler, K. E. Engines of Creation: The Coming Era of Nanotechnology<\/em>. (Anchor Books: New York, 1986). http:\/\/www.foresight.org\/EOC\/index.html<\/a><\/p>\n

              Freitas Jr., R. A. Nanomedicine, Volume 1: Basic Capabilities<\/em>. (Landes Bioscience: Georgetown, TX, 1999). http:\/\/www.nanomedicine.com<\/a><\/p>\n

              Hanson, R., et al. (1998). “A Critical Discussion of Vinge’s Singularity Concept.” Extropy Online<\/em>. http:\/\/mason.gmu.edu\/~rhanson\/vi.html<\/a><\/p>\n

              Kurzweil, R. The Age of Spiritual Machines: When Computers Exceed Human Intelligence<\/em>. (Viking: New York, 1999).<\/p>\n

              Moravec, H. Robot: Mere Machine to Transcendent Mind<\/em>. (Oxford University Press: New York, 1999).<\/p>\n

              Vinge, V. (1993). “The Coming Technological Singularity.” Whole Earth Review<\/em>, Winter issue.<\/p>\n

              Yudkowsky, E. (2002). “The AI Box Experiment.” Webpage<\/em>. http:\/\/yudkowsky.net\/singularity\/aibox\/<\/a><\/p>\n

              Yudkowsky, E. (2003). Creating Friendly AI 1.0<\/em>. https:\/\/intelligence.org\/files\/CFAI.pdf<\/a><\/p>\n

              <\/a>[1]<\/a> (Bostrom, 1998)<\/p>\n

              <\/a>[2]<\/a> (Bostrom 1998; Kurzweil 1999; Moravec 1999)<\/p>\n

              <\/a>[3]<\/a> (Drexler 1986)<\/p>\n

              <\/a>[4]<\/a> (Vinge 1993; Hanson et al. 1998)<\/p>\n

              <\/a>[5]<\/a> (Yudkowsky 2002)<\/p>\n

              <\/a>[6]<\/a> (Yudkowsky 2003)<\/p>\n

              <\/a>[7]<\/a> (Freitas Jr. 1999)<\/p>\n

              <\/a>[8]<\/a> (Bostrom 2002)<\/p>\n

               <\/p>\n

              Source:<\/em><\/strong> https:\/\/www.nickbostrom.com\/ethics\/ai.html<\/a> \u00fcbersetzt mit www.DeepL.com\/Translator<\/p>\n

               <\/p>\n

               <\/p>\n

              \u00abK\u00fcnstliche Intelligenz gibt es eigentlich nicht\u00bb<\/h1>\n

              By Gabriela Bonin<\/p>\n

              Die Bezeichnung \u00abK\u00fcnstliche Intelligenz\u00bb kann im Alltag zu falschen Erwartungen verleiten und unn\u00f6tige \u00c4ngste sch\u00fcren. Das sagt Ladan Pooyan-Weihs, Co-Studienleiterin unseres CAS Artificial Intelligence. Ein Interview \u00fcber \u00aberweiterte Intelligenz\u00bb, digitale Ethik und n\u00f6tige Weichenstellungen.<\/p>\n

               <\/p>\n

              Source:<\/em><\/strong> https:\/\/hub.hslu.ch\/informatik\/kunstliche-intelligenz-gibt-es-nicht-wichtig-ist-digitale-ethik\/<\/a><\/p>\n

               <\/p>\n

              Das KI-Manifest – Sechs Thesen zur K\u00fcnstlichen Intelligenz<\/h1>\n

              By Matthias Horx, Trend- und Zukunftsforscher, Publizist und<\/p>\n

                \n
              1. KI ist ein Mythos<\/li>\n
              2. KI ist ein Missverst\u00e4ndnis<\/li>\n
              3. KI ist eib Meister der Prognose<\/li>\n
              4. KI erzwingt ein Upgrade menschlicher Intelligenz und Empathie<\/li>\n
              5. KI ist ein Jobshifter, kein Jobkiller<\/li>\n
              6. KI stellt die Frage nach der Freiheit neu<\/li>\n<\/ol>\n

                Source: https:\/\/www.horx.com\/schluesseltexte<\/a><\/p>\n

                 <\/p>\n

                Mapping the AI ethics initiatives terrain<\/h1>\n

                \"\"<\/a>While artificial intelligence (AI) applications are numerous, AI creates novel ethical challenges that threaten both users and non-users of the technology, including exacerbating existing inequalities and generating discrimination and bias.<\/p>\n

                Study:<\/strong><\/em> https:\/\/www.europarl.europa.eu\/RegData\/etudes\/STUD\/2020\/634452\/EPRS_STU(2020)634452_EN.pdf\u00a0 <\/a><\/p>\n

                Source:<\/strong><\/em> https:\/\/epthinktank.eu\/2020\/07\/16\/mapping-the-ai-ethics-initiatives-terrain\/<\/a><\/p>\n

                 <\/p>\n

                 <\/p>\n","protected":false},"excerpt":{"rendered":"

                Ethische Fragen bei fortgeschrittener k\u00fcnstlicher Intelligenz Nick Bostrom Oxford University, Philosophy Faculty, 10 Merton Street, Oxford OX1 4JJ, United Kingdom   ABSTRACT Die ethischen Fragen im Zusammenhang mit der m\u00f6glichen zuk\u00fcnftigen Erschaffung von Maschinen mit allgemeinen intellektuellen F\u00e4higkeiten, die die des Menschen bei weitem \u00fcbertreffen, unterscheiden sich deutlich von den ethischen Problemen, die bei den […]<\/p>\n","protected":false},"author":1,"featured_media":0,"parent":0,"menu_order":0,"comment_status":"closed","ping_status":"closed","template":"","meta":{"ngg_post_thumbnail":0,"footnotes":""},"class_list":["post-1934","page","type-page","status-publish","hentry"],"yoast_head":"\nEthics - Business Coach<\/title>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/hoenen.ch\/?page_id=1934\" \/>\n<meta property=\"og:locale\" content=\"en_GB\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Ethics - Business Coach\" \/>\n<meta property=\"og:description\" content=\"Ethische Fragen bei fortgeschrittener k\u00fcnstlicher Intelligenz Nick Bostrom Oxford University, Philosophy Faculty, 10 Merton Street, Oxford OX1 4JJ, United Kingdom   ABSTRACT Die ethischen Fragen im Zusammenhang mit der m\u00f6glichen zuk\u00fcnftigen Erschaffung von Maschinen mit allgemeinen intellektuellen F\u00e4higkeiten, die die des Menschen bei weitem \u00fcbertreffen, unterscheiden sich deutlich von den ethischen Problemen, die bei den […]\" \/>\n<meta property=\"og:url\" content=\"https:\/\/hoenen.ch\/?page_id=1934\" \/>\n<meta property=\"og:site_name\" content=\"Business Coach\" \/>\n<meta property=\"article:modified_time\" content=\"2021-07-03T12:35:26+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/hoenen.ch\/wp-content\/uploads\/2021\/07\/EPRS_logo-300x115.jpeg\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:label1\" content=\"Estimated reading time\" \/>\n\t<meta name=\"twitter:data1\" content=\"16 minutes\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\\\/\\\/schema.org\",\"@graph\":[{\"@type\":\"WebPage\",\"@id\":\"https:\\\/\\\/hoenen.ch\\\/?page_id=1934\",\"url\":\"https:\\\/\\\/hoenen.ch\\\/?page_id=1934\",\"name\":\"Ethics - Business Coach\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/hoenen.ch\\\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\\\/\\\/hoenen.ch\\\/?page_id=1934#primaryimage\"},\"image\":{\"@id\":\"https:\\\/\\\/hoenen.ch\\\/?page_id=1934#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/hoenen.ch\\\/wp-content\\\/uploads\\\/2021\\\/07\\\/EPRS_logo-300x115.jpeg\",\"datePublished\":\"2021-07-03T09:45:03+00:00\",\"dateModified\":\"2021-07-03T12:35:26+00:00\",\"breadcrumb\":{\"@id\":\"https:\\\/\\\/hoenen.ch\\\/?page_id=1934#breadcrumb\"},\"inLanguage\":\"en-GB\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\\\/\\\/hoenen.ch\\\/?page_id=1934\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"en-GB\",\"@id\":\"https:\\\/\\\/hoenen.ch\\\/?page_id=1934#primaryimage\",\"url\":\"https:\\\/\\\/hoenen.ch\\\/wp-content\\\/uploads\\\/2021\\\/07\\\/EPRS_logo.jpeg\",\"contentUrl\":\"https:\\\/\\\/hoenen.ch\\\/wp-content\\\/uploads\\\/2021\\\/07\\\/EPRS_logo.jpeg\",\"width\":400,\"height\":153},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\\\/\\\/hoenen.ch\\\/?page_id=1934#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Home\",\"item\":\"https:\\\/\\\/hoenen.ch\\\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Ethics\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\\\/\\\/hoenen.ch\\\/#website\",\"url\":\"https:\\\/\\\/hoenen.ch\\\/\",\"name\":\"Business Coach\",\"description\":\"think - relate - execute\",\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\\\/\\\/hoenen.ch\\\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"en-GB\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Ethics - Business Coach","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/hoenen.ch\/?page_id=1934","og_locale":"en_GB","og_type":"article","og_title":"Ethics - Business Coach","og_description":"Ethische Fragen bei fortgeschrittener k\u00fcnstlicher Intelligenz Nick Bostrom Oxford University, Philosophy Faculty, 10 Merton Street, Oxford OX1 4JJ, United Kingdom   ABSTRACT Die ethischen Fragen im Zusammenhang mit der m\u00f6glichen zuk\u00fcnftigen Erschaffung von Maschinen mit allgemeinen intellektuellen F\u00e4higkeiten, die die des Menschen bei weitem \u00fcbertreffen, unterscheiden sich deutlich von den ethischen Problemen, die bei den […]","og_url":"https:\/\/hoenen.ch\/?page_id=1934","og_site_name":"Business Coach","article_modified_time":"2021-07-03T12:35:26+00:00","og_image":[{"url":"https:\/\/hoenen.ch\/wp-content\/uploads\/2021\/07\/EPRS_logo-300x115.jpeg","type":"","width":"","height":""}],"twitter_card":"summary_large_image","twitter_misc":{"Estimated reading time":"16 minutes"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"WebPage","@id":"https:\/\/hoenen.ch\/?page_id=1934","url":"https:\/\/hoenen.ch\/?page_id=1934","name":"Ethics - Business Coach","isPartOf":{"@id":"https:\/\/hoenen.ch\/#website"},"primaryImageOfPage":{"@id":"https:\/\/hoenen.ch\/?page_id=1934#primaryimage"},"image":{"@id":"https:\/\/hoenen.ch\/?page_id=1934#primaryimage"},"thumbnailUrl":"https:\/\/hoenen.ch\/wp-content\/uploads\/2021\/07\/EPRS_logo-300x115.jpeg","datePublished":"2021-07-03T09:45:03+00:00","dateModified":"2021-07-03T12:35:26+00:00","breadcrumb":{"@id":"https:\/\/hoenen.ch\/?page_id=1934#breadcrumb"},"inLanguage":"en-GB","potentialAction":[{"@type":"ReadAction","target":["https:\/\/hoenen.ch\/?page_id=1934"]}]},{"@type":"ImageObject","inLanguage":"en-GB","@id":"https:\/\/hoenen.ch\/?page_id=1934#primaryimage","url":"https:\/\/hoenen.ch\/wp-content\/uploads\/2021\/07\/EPRS_logo.jpeg","contentUrl":"https:\/\/hoenen.ch\/wp-content\/uploads\/2021\/07\/EPRS_logo.jpeg","width":400,"height":153},{"@type":"BreadcrumbList","@id":"https:\/\/hoenen.ch\/?page_id=1934#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Home","item":"https:\/\/hoenen.ch\/"},{"@type":"ListItem","position":2,"name":"Ethics"}]},{"@type":"WebSite","@id":"https:\/\/hoenen.ch\/#website","url":"https:\/\/hoenen.ch\/","name":"Business Coach","description":"think - relate - execute","potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/hoenen.ch\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"en-GB"}]}},"jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/hoenen.ch\/index.php?rest_route=\/wp\/v2\/pages\/1934","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/hoenen.ch\/index.php?rest_route=\/wp\/v2\/pages"}],"about":[{"href":"https:\/\/hoenen.ch\/index.php?rest_route=\/wp\/v2\/types\/page"}],"author":[{"embeddable":true,"href":"https:\/\/hoenen.ch\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/hoenen.ch\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=1934"}],"version-history":[{"count":10,"href":"https:\/\/hoenen.ch\/index.php?rest_route=\/wp\/v2\/pages\/1934\/revisions"}],"predecessor-version":[{"id":1946,"href":"https:\/\/hoenen.ch\/index.php?rest_route=\/wp\/v2\/pages\/1934\/revisions\/1946"}],"wp:attachment":[{"href":"https:\/\/hoenen.ch\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=1934"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}