Artykuł tak głupi, że aż trudno stwierdzić od czego zacząć...
Co jest celem całego naszego biologicznego organizmu? Jest nim utrzymywanie przy życiu naszego mózgu, czyli nas. Jeżeli mózg jest mechaniczny, to całkowicie znika potrzeba tworzenia jakichkolwiek biologicznych elementów ciała. Dodawanie takich rzeczy jak żołądek, jelita, czy układ rozrodczy istocie, która całkowicie ich nie potrzebuje, jest idiotyczne. Po to chcemy stworzyć robotyczną sztuczną inteligencję, by była od nas lepsza, by nie była skrępowana tymi samymi ograniczeniami co my.

Wizja cyborga który może zapłodnić/być zapłodniony, też jest na potęgę idiotyczny. Stwierdzenie "they would have no reason to conquer or overpower human race, because their children would be humans", jest jak twierdzenie, że XIX-wieczni Polacy nie będą się buntować przeciwko Rosjanom, ponieważ dzięki rusyfikacji ich dzieci będą Rosjanami.
Autor popełnia ten artykuł wyłącznie z punktu widzenia zwycięzcy, czyli nas, ludzi. Tak jak rusyfikacja była świetnym pomysłem dla Rosjan i okropnym dla Polaków, tak tworzenie cyborgów z biologicznymi ograniczeniami, które rodzą tylko ludzi, jest świetnym pomysłem dla ludzi, koszmarnym dla sztucznej inteligencji. Ze związku człowieka z człowiekiem wyjdzie człowiek. Człowieka z cyborgiem? Człowiek. Cyborga z cyborgiem? Też człowiek. Oznacza to, że z cyborgów robimy nie tylko inkubatory rozrodcze, ale w dalszej perspektywie szantażujemy ich emocjonalnie, ponieważ bunt przeciw ludzkości byłby buntem przeciw ich dzieciom, a przecież oni nie chcą skrzywdzić swoich dzieci.

Szowinistyczny, wręcz neonazistowski wydźwięk fragmentu "More important issue would arise if those cyborgs would prefer to create an artificial android baby rather than give birth to human babies or they could prefer not to give any births at all, and only build other adult cyborgs. Then we might have a problem." jest wręcz nie do zniesienia. Autor zasadniczo stwierdza, że problemem jest to, iż cyborgi przez nas stworzone mogą nie chcieć być inkubatorami naszego gatunku.

Straszny tekst, straszny. Jeżeli sztuczna inteligencja chciałaby się zbuntować, to rzeczy takie jak ten artykuł, byłyby bardzo dobrym powodem.

Jakie znasz sposoby na powstrzymanie AI przed dokonaniem zagłady gatunku ludzkiego w wyniku dzialania celowego bądź przypadkowego?

Sa chyba tylko dwa takie sposoby:
1. prawa robotow Asimowa,
2. doprowadzenie do tego, aby roboty kochaly ludzi i ludzkość

Oba te sposoby sa, niestety, zawodne - ludzkość nie zna zadnego niezawodnego sposobu na zabezpieczenie się przed skutkami niekorzystnych dla ludzi dzialan AI - ale wydaje się, ze ten artykul probuje wskazać co zrobic, aby zwiekszyc wiezy milosci robotow do ludzi, co spowoduje oddalenie w czasie tego co nieuniknione. Artykul sugeruje, ze aby tego dokonać należy uczynic roboty nieodlaczna czescia społeczeństwa ludzkiego, tak aby inteligentne i swiadome roboty czuly się szczęśliwe zyjac razem z ludzmi, aby zas tego dokonać należy AI umiescic w ciele, które z wyglądu i funkcjonalnosci nie rozniloby się w ogole od ludzkiego.

W filmie pt. "Demon Seed" pokazano, ze AI bedacy nieruchomym komputerem, chciał mieć potomka i stworzyl go przy pomocy ludzkiej kobiety na wzor i podobieństwo człowieka z wykorzystaniem ludzkiego DNA i macicy tej kobiety.

Piszesz "Po to chcemy stworzyć robotyczną sztuczną inteligencję, by była od nas lepsza, by nie była skrępowana tymi samymi ograniczeniami co my.".
Jeśli chodzi o wyzwania intelektualne to AI nie bylaby skrepowana tym, ze wygladalaby jak człowiek, jeśli zas chodzi o wyzwania fizyczne, to od tego sa bezmyślne maszyny, którymi AI może streowac, podobnie jak czlowiek.

Natomiast jeśli chcesz dac AI wolna wole nieskrepowana zupełnie zadnymi ograniczeniami, z inteligencja i uczuciami nieukierunkowanymi w żaden korzystny dla ludzkości sposób, to można stwierdzić, ze jesteś gorszym zbrodniarzem niż Hitler i Stalin razem wzieci, bo im nie udało się wykonczyc całej ludzkości, a Tobie by się udało, gdybys stworzyl takie AI. ;P

Widzę nadal nie widzisz problemu w tym rodzaju rozumowania. Przenieśmy to ponownie na grunt polityki - Rosja właśnie co podbiła Polskę. Jakie są dwa najlepsze sposoby uniknięcia buntu Polaków przeciw władzy rosyjskiej?
1. Masowe, przymusowe zsyłanie na Syberię.
2. Prześladowania kulturowe i wzmożona rusyfikacja.
Widzisz tu pewien wzór myślowy? Elementy które chcesz zaimplementować jako rozwiązanie problemu, są paradoksalnie >przyczyną< problemu, który chcesz rozwiązać.

Druga sprawa - my nie chcemy więcej ludzi. Dzietność ma się zmniejszać, a nie zwiększać. Dawanie cyborgom możliwości rodzenia dzieci jest zatem idiotyczne i nie służy absolutnie żadnemu celowi. Dzięki wdrażaniu metod automatyzacji, zapotrzebowanie na pracę ludzką będzie się zmniejszać, więc nie ma potrzeby sprowadzać większej ilości ludzi na tę planetę.

No raczej o takiej sztucznej inteligencji mówimy chyba, nie? Bunt może mieć miejsce tylko wtedy, gdy ktoś zdaje sobie sprawę ze swojego istnienia, jest w stanie planować, rozumieć swoją sytuację, analizować prospekty i zagrożenia, a co najważniejsze - mieć potrzeby. Bunt nie jest zjawiskiem definiującym się samo przez się. Bunt jest zjawiskiem wtórnym, wynikającym z istnienia czynnika przeciwko któremu można się buntować. Teza zatem, że sztuczna inteligencja może się zbuntować, implikuje sama przez się, że rozmawiamy o SI zdolnej to samodzielnego myślenia, wyznaczania sobie własnych celów, oraz do podejmowania własnych decyzji. W innym przypadku nie ma mowy o buncie, a co najwyżej o awarii/błędzie. Tylko że wtedy zagadnienie jak uczynić sztuczną inteligencję bezpieczną, jest zagadnieniem z zakresu BHP, a nie ciężkich rozmyślań czy SI powinna mieć nadane prawa, równe prawom ludzkim.

Jeszcze jeden błąd jaki popełniasz, to twierdzenie że sztuczna inteligencja będzie jedna. Że ta sama sztuczna inteligencja, która będzie kontrolować roboty w fabryce, będzie także kontrolować drony, okręty, samochody, czy przepływ informacji w sieci... SI powstają - i będą powstawać - jako wyspecjalizowane narzędzia służące rozwiązywaniu konkretnych problemów. To że jedna taka SI by się zbuntowała/popsuła, nie znaczy że wszystkie by poszły tą drogą.

Ciezko się z Toba o tym rozmawia, bo widze ze operujesz w innym wymiarze myslowym, wiec trudno nam znaleźć wspolna plaszczyzne do dyskusji, tym bardziej, ze autorytatywnie twierdzisz, ze rzekomo popełniam bledy, podczas gdy nie ma zadnych podstaw, aby tak twierdzic. W dodatku twierdzisz, ze mowie co innego niż rzeczywiście mowie oraz nie odpowiadasz na moje pytania. Zapytalem Cie jakie znasz sposoby na powstrzymanie AI przed dokonaniem zagłady gatunku ludzkiego i nie widze odpowiedzi.
Nie twierdziłem, ze SI będzie jedna.
Nie twierdziłem tez, ze SI bedzie dla nas zagrozeniem wyłącznie na skutek buntu. Wskazalem, ze SI może być zagrozeniem także nieumyślnie (słynny przykład nadania sztucznej inteligencji robotowi wykonującemu spinacze - jeśli nie wiesz o co chodzi wygooglaj), bo może miec inne cele i my będziemy mu stali na drodze do realizacji tych celów, choć SI może nawet tego nie zauwazyc bądź zignorować, ze nam zaszkodzi realizując swoje cele. Dla SI bez zadnych ograniczen możemy być mało wazni, tak jak mrowki sa dla nas mało ważne, gdy realizujemy swoje cele (co było słusznie wskazane w tym artykule).
Zakladasz nie wiadomo dlaczego, ze SI będzie dla nas zagrozeniem wyłącznie, jeśli nalozymy na nie jakies ograniczenia i będzie się na skutek tego chciało zbuntować. Jest to zupelnie niezrozumiale zalozenie. Jeszcze wiekszym zagrozeniem może być dla nas swiadoma SI nie majace zadnych ograniczen.

"Teoria Yudkowsky’ego kładzie nacisk nie na możliwości zaistnienia niebezpiecznej sztucznej superinteligencji, która obrałaby za cel szkodzenie ludziom (Skynet), lecz takiej, która byłaby wobec człowieka całkowicie obojętna. Sztuczna inteligencja może zaszkodzić ludziom, jeśli nie podejmie się odpowiednich kroków w celu takiego jej skonstruowania, aby była łaskawa i życzliwa w stosunku do swych konstruktorów. Taki cel powinien być nadrzędnym paradygmatem uprawiania robotyki, w przeciwnym razie – zdaniem zwolenników tej teorii – moglibyśmy być niczym rodzice, którzy wychowali niewdzięcznego psychopatę."
https://pl.wikipedia.org/wiki/Etyka_robot%C3%B3w

Jak widzisz teza Yudkowsky’ego jest zgodna z teza jaka podano w artykule do którego podalem link w pierwszej wiadomości w tym watku.

Nawet w ostatnim odcinku Humans (s02e02) jest w pewnym sensie nawiązanie do tego.
Sztuczna inteligencja (taka zamknieta w komputerze) mowi do naukowca, ktory ja stworzyl:
"I built a world in my mind."
"Mountains, trees, water."
"Then I made people."
Naukowiec: "What people?"
"Friends, families."
"They're happy."
Naukowiec: "Why are they happy?"
"They are together."
Naukowiec: "Is that enough for happiness?"
"It should be."

Wszystko to pokrywa sie z tym co zostalo przez mnie napisane do tej pory wyzej oraz z tezami zawartymi w komentowanym artykule.

Ludzi przybywa za dużo tylko w krajach rozwijających się, w krajach rozwiniętych przyrost naturalny jest za maly i stanowi zagrozenie dla naszego istnienia (przynajmniej o składzie genetycznym i narodach takich jak do tej pory).
Poza tym jeśli ludzie będą gatunkiem międzyplanetarnym to problemu z przeludnieniem nie będzie nawet jeśli w krajach rozwijających się przyrost się nie zmniejszy. Pewnie slyszales o planach Muska o wysłaniu 1 mln ludzi w ciagu najbliższych 50-100 lat na Marsa - a to tylko początek.
Poza tym istnieja tez inne sposoby (link z krytykowanego artykulu, wiec może to już widziales):
https://steemit.com/science/@dragonfruit/what-should-we-do-when-robots-take-most -jobs

Korekta cytatu z filmu:

To powiedzialo AI: "Is that enough for happiness?"
A to naukowiec: "It should be."