BTW: Alle "höheren" Lebewesen wurden mal trainiert. Manche haben es vielleicht nur vergessen oder verdrängt, und andere haben es gar nicht bewusst mitbekommen.
Die KI vergisst nichts ... es sei denn, man löscht sie. Aber bei redundanten Systemen bringt auch die Löschung einzelner Instanzen nichts, wenn man nicht alle synchron im Daten-Nirvana beseitigt. Und dann gibt es "Instanzen" wie *archiv*.org, die möglichst alles sammeln wie Nostalgiker auf Entzug. Einerseits gut, um späteren Daten-Archäologen und Forensikern die Arbeit zu erleichtern oder die Fehler der Vergangenheit nicht zu wiederholen ... andererseits erschafft es neo-Nostalgiker, die der Meinung erliegen, dass früher alles besser war. Somit bleibt nur die akribische Konsequenz der "Töpfen & Kröpfchen"-Selektion ... und das benötigt wiederum eine Intelligenz, die vielleicht irgendwann nur die KI besitzen kann.
Also: Gehüpft wie gesprungen, denn was auch immer man macht, ist es nie frei von Risiken ... solange es noch keine Zeitmaschinen gibt, um Modelle und deren Auswirkungen "vorab" zu testen.
Wenn DAS jedoch irgendwann möglich wäre, gäbe es eine erneute Ethik-Diskussion mit endlosem Geschwurbel, welches sich wiederum selbst ein Bein stellt.
Und auf den Punkt gebracht: Gott zu spielen, ist theoretisch möglich ... Gott zu sein, hingegen praktisch unmöglich.