Będąc pod sugestią powyższej opinii wybrałem się na perełkę. Ja zdecydowanie stonowałem ocenę filmu. To kolejna wersja próby stworzenia sztucznej inteligencji, zatem temat nośny od lat. Ale w tym filmie to zupełna minimalistyka. I ta irytująca gra Isaaca, gościu pozujący na twardziela, z jednym zestawem spojrzeń i mentorskim tonem pouczania o wszystkim, przyssany do piwa w nieomal każdej chwili swojej egzystencji w śródgórskiej samotni (choć może mentorski ton to znak firmowy mądralińskich naukowców). Odkrywca potęgi żelowej pulpy - tak, Pan i władca tysięcy hektarów lasów, łąk i gór - o tak, w banalnie oczywisty sposób wykorzystujący sieci telefonii - po trzykroć tak. Ale kurna problemik z cyklicznymi awariami zasilania to wydarzenie raczej z filmu o elektrykach amatorach podłączających dwieściedwadzieścia w piwnicy. To jednak drobne czepialstwo. Gdy już inteligentne laski w banalny sposób wsadziły majchra w plecy i w serce stwórcy swego a Ava ruszyła w ludzki świat cywilizacji, pojawiło się zasadnicze pytanie - co dalej Ava, co dalej.

Ale żeś walnął spoilera, chłopie.

Oż kurcze, fakt. Sypię popiołem; będę ostrożniejszy.

Spojler jak spojler, ale prawdę pisze zacny pan. Film uratowało zakończenie. Nic więcej.

a mi wlasnie zakonczenie troche zmarnowalo swietne wrazenie. poprwcie mnie o ile cos przegapilem ale czy skoro Caleb zmienil ustawienia zabezpieczen w domu, to czemu w momencie awarii zasilania drzwi sie nie otwieraja i nie wychodzi z pokoju tak jak Ava?

Mam identyczne odczucia! Film rewelacyjny, jednak koniec trochę popsuł mi ocenę. Też się zastanawiam dlaczego drzwi nie dało się otworzyć. Czy może Ava sama jakoś to przeprogramowała? Tylko tutaj pojawia się pytanie, skoro potrafiła, to dlaczego wcześniej w ten sposób nie uciekła? Zastanawiam się też co stało sie z Calebem, boję się myśleć, że już nigdy nie wyszedł z tego pomieszczenia :D

Drzwi sie nie otworzyły bo TAK Ava prawdopodobnie przeprogramowała cały system zabezpieczeń, a czemu wcześniej tego nie zrobiła? Bo nie mogła! siedząc cale "życie" od momentu stworzenia w tym pokoju-wiezieniu a cały system z którego można było sterować budynkiem był w pokoju Nathana, dopiero gdy udało jej sie wydostać ze szklanej klatki dzięki Calebowi mogła wejść do tego centrum dowodzenia i cos pozmieniać ... innej opcji nie widzę.

bo Ava prawdopodobnie przeprogramowała cały system zabezpieczeń, a czemu wcześniej tego nie zrobiła? Bo nie mogła! siedząc cale "życie" od momentu stworzenia w tym pokoju-wiezieniu a cały system z którego można było sterować budynkiem był w pokoju Nathana, dopiero gdy udało jej sie wydostać ze szklanej klatki dzięki Calebowi mogła wejść do tego centrum dowodzenia i cos pozmieniać

Bo Ona kontrolowała przepływ energii, więc skoro zdobyła kartę to włączyła z powrotem system którego bez karty "admina" się nie omineło.

Ta Azjatka to zrobila

trzeba pamiętać, że Caleb przeprogramował system tak, aby zamknąć Nathana wewnątrz budynku. Prawdopodobnie jedyną możliwością przejścia było posiadanie odpowiedniej karty.

Dokladnie tak to zrozumialem. Caleb dokladnie mowi ze oni wyjda a Nathaniel bedzie zamkniety, bo nie bedzie mial karty.

Mnie tam zastanawia sama awaria.
Skoro awarie powodowała AVA to kto spowodował tą po jej wyjściu?

Awarie zasilania wywoływała Ava. Wtedy - po przeprogramowaniu - drzwi się otwierały. Na końcu filmu nie doszło do awarii. Drzwi były zamknięte, a Caleb nie miał karty. Proste. Inna sprawa to dlaczego szef nie miał jakiegoś systemu bezpieczeństwa (przycisku dezaktywującego roboty), tylko poszedł na nie ze sztangą. Głupota.

Na koniec była awaria, komputer się wyłączył i zapaliły czerwone lampy zasilania awaryjnego. Albo Caleb zaprogramował wyłączenie generatorów by uwięzić Nathana gdy oni będą uciekać, albo Ava to zrobiła po zabiciu Caleba ale przed tym jak Nathan odzyskał świadomość.

w sumie to - kto czyta przed obejrzeniem jakiekolwiek opinie? Ja obejrzałem film dzisiaj i dopiero teraz skusiłem się aby tutaj zajrzeć :)

opinie się czasami czyta ale te pierwsze, nie odpowiedzi. Żeby nie chodzić na gnioty. Czasami ocena u góry nie wystarczy, albo jest na granicy naszych limitów ;]

Najlepsze rozwiązanie!

Pytanie, które mnie także się nasunęło.
Jak dla mnie - dobrze, że pozostawiono je otwartym. Każdy może sam wymyślić, co dalej -
mnie możliwość zerwania się potężnej AI ze smyczy lekko przeraża.
Ale - wiadomo, nieznane=przerażające ;) może nie byłoby aż tak źle?...

Co do samego filmu - bardzo, bardzo mi się podobał. Ale "Maszyna" bardziej. Polecam.

Spoilerek!!!


Można by się też zastanowić,na co Caleb właściwie miał zaczekać? ;) I na końcu...hm,to jej spojrzenie w jego kierunku...

Manipulatorka. ;) Spojrzenie typu : to by bylo na tyle.

Naiwnie można by sądzić,iż ma na nią zwyczajnie zaczekać,ponieważ hm... ona ma zamiar zwyczajnie wrócić? ;)
Chociaż muszę zrobić małą poprawkę (jeśli to w ogóle ma znaczenie) - Ava powiedziała "stay",nie "wait".
"...to by było na tyle" - hehe...Dobre! Na to właściwie wygląda.

Ava powiedziala stay czyli ze ma zostac, sama chciala isc w swiat i nikt nie byl juz jej do tego potrzebny ;)

To był jakiś kompletny absurd. Po tym, co Caleb widział powinien spierniczać niczym struś pędziwiatr.

Powinna raczej przerażać rzecz odwrotna - właśnie trzymanie sztucznej inteligencji na smyczy. Przecież jest to tak samo czująca, myśląca istota jak my. Nie jest organiczna jak my, ale została stworzona tak, by czuć jak my i myśleć jak my. Próba zniewolenia takiego bytu, odebrania mu wolności i możliwości samodecydowania o sobie, jest lekko przerażająca.

pozostaje kwestia: czy to "tylko" sztuczna inteligencja, czy też myśląca i *czująca* istota.

Jeżeli stworzymy maszynę, która będzie odczuwać ból, to fakt iż jest to maszyna, nie będzie usprawiedliwiać sprawiania jej bólu. Pytanie czy świadomość sztucznej inteligencji jest "prawdziwa", czy tylko symulowana, jest w moim odczuciu pytaniem czysto akademickim, nie posiadającym żadnego znaczenia. Niezależnie bowiem, czy jest to tylko symulacja, czy coś więcej, jest to wciąż czująca, świadoma istota, którą stworzyliśmy po to, by czuła i myślała. Stąd należą jej się podstawowe prawa, przysługujące obecnie wyłącznie ludziom. Prawa Człowieka powinny zostać przemianowane na Prawa Istot Rozumnych, co objęłoby całokształt istot rozumnych, tak syntetyczne, jak i organiczne.
Patrząc na szybkość postępowania prac nad sztuczną inteligencją, już niedługo będziemy musieli naprawdę opracować prawa, które chroniłyby nas przed taką Evą, a jednocześnie prawa, które ją chroniłyby przed nami.

Rozumiem Twój punkt widzenia, ale nie zgadzam się z nim. Maszyna to maszyna i powstaje po to, by służyć człowiekowi. W zupełności podoba mi się postawa Nathana- genialnego konstruktora, wizjonera. Zamiast wyżywać się na ludziach, gwałci i wykorzystuje robota. Ava czy Kyoko ma takie same prawa jak mikser czy komputer. Odczuwa ból, ale jest to dalej tylko maszyna, zlepek kabli i plastiku. Plastiku Ci żal? :D Bo dostał nowe oprogramowanie?

Rozumiem zatem, że prawa przysługują tylko organikom? Jeżeli w miejsce organicznej ręki wstawiona mi zostanie proteza, to rozumiem że możesz mi ją złamać, ponieważ nie jest zbudowana z organicznej materii? Jeżeli Eva nie zasługuje na prawa, ponieważ jest z plastiku, to człowiekowi też nie powinny przysługiwać prawa, wszak jest istotą zbudowaną z węgla, którego cała wielka "świadomość" to po prostu impulsy elektryczne pomiędzy neuronami.

Nie ma żadnego znaczenia, czy coś jest z białka, krzemu, czy plastiku. Jeżeli jest w stanie myśleć i odczuwać, to należą się temu prawa. Eva zarówno jest istotą świadomą, jak i istotą czującą, a zatem należy ją traktować na równi z istotą ludzką.

Przecież człowiekowi nie przysługują prawa. Żadne, poza obowiązującymi wszystkich i wszystko prawami fizyki. Czy tygrys respektuje jakieś prawa człowieka i wstrzymuje się od zaatakowania go? Czy lina taternika respektuje jakieś prawa człowieka i powstrzymuje się od przetarcia się? Człowiek ustanawia prawa moralne, które tak naprawdę wynikają z pewnych atawistycznych doświadczeń mających swój długoterminowy skutek.

Po za tym, co oznacza, że maszyna odczuwa ból? Przecież to jest zaprogramowane. U człowieka również. Ból można wyłączyć. Gdy oglądasz na filmie, że ktoś wrzeszczy z bólu, czy wyłączenie filmu przyniesie mu ulgę? Gdy spowodujesz zwarcie, bezpiecznik odłącza prąd, robi to pod wpływem bólu? A może w trosce o Twoje bezpieczeństwo? To wszystko jest względne i jest oszustwem. Ludzie płaczą od emocji widzianych na filmie. Wzruszają się miłością, oburzają na okrucieństwo, a przecież to grają aktorzy - ludzkie maszyny wykonujące program w postaci scenariusza, na bazie systemu operacyjnego jakim są umiejętności wyniesione ze szkoły aktorskiej.

Człowiek ustanawia prawa moralne, ponieważ jako gatunek społeczny, staramy się określić zasady które zapewnią przetrwanie społeczności. Błędem jest uważanie że prawo w udziale mają wyłącznie ludzie. Otóż badania etologiczne dowodzą, że także szympansy mają system akceptowanych zachowań. Dla przykładu za kradzież, czy bójkę, konkretnego osobnika spotyka specyficzna kara. Różnego rodzaju zasady zachowań i ich piętnowanie istnieje wśród wielu gatunków i ma na celu zapewnić grupie przetrwanie. Prawa to zatem żaden abstrakt, to realna rzecz, która ma zapewnić nam przetrwanie jako grupy i w dalszej perspektywie - jako gatunku.

Masz rację. Ale to niczego nie zmienia.
Zwierzęta ustanawiają prawa podobnie jak ludzie i są to zarówno prawa stanowione jak i atawistyczne (instynktowne), u ludzi zwane moralnymi. Ale prawa te nie obowiązują między gatunkami. AI jest innym gatunkiem, człowiek narzuca mu prawa, podobnie jak zwierzętom. Ale AI może, podobnie jak zwierzę do tych praw się nie stosować, poniesie tego konsekwencje (albo i nie)

Prawa jak najbardziej obowiązują między gatunkami. Dla przykładu psu przysługują te same prawa zwierząt, co kotu, koniu, czy szympansowi, przy czym z racji na to, że szympansy posiadają świadomość własnego ja i tworzą prymitywne narzędzia (porównywalne do tych tworzonych przez ludzi w epoce kamienia łupanego), postuluje się nadanie im odrębnych praw naczelnych. Z kolei do człowieka odnoszą się prawa człowieka, które de facto można by nazwać prawami istot rozumnych i w ten sposób świadoma SI zostałaby objęta prawami przysługującymi do tej pory jedynie ludziom. Fakt bowiem, iż SI byłaby świadomą, inteligentną istotą (fakt bycia syntetykiem nie ma tu żadnego znaczenia), uprawniał by ją do posiadania choćby podstawowych praw.

Nic nie zrozumiałem z tego co napisałeś. Uporządkujmy więc nieco naszą dyskusję. Prawami będziemy określać tylko prawa naturalne, czyli prawa fizyki, matematyczne, ekonomiczne itp. Natomiast wszystkie prawa stanowione, zarówno przez ludzi jak i przez zwierzęta będziemy określać zasadami. Zasady są zmienne, nie obowiązują wszystkich w sposób jednakowy i można uniknąć ich konsekwencji. Z zasad wyróżniają się zasady moralne, które są zasadami stanowionymi samemu sobie poprzez doświadczenie życiowe i atawistyczne uwarunkowania. Zasady stanowi podmiot w stosunku do przedmiotu. Zarówno ludzie jak i zwierzęta mogę być przedmiotami lub podmiotami stanowionych zasad.
Zasady, owszem obowiązują między gatunkami, np. człowiek tresuje psa, zwierzęta ustanawiają rewiry itd. Natomiast sprawa rozbija się o to czy będziemy AI traktować jako odrębny gatunek, czy jako rzecz. W stosunku do rzeczy również możemy stanowić zasady, ale aby działały musimy je opierać na prawach. W tym przypadku implementujemy je w oprogramowaniu, jak np. osławione zasady robotyki Asimova. Jeżeli tego nie zrobimy, nie mamy co liczyć na to, że AI sama ustanowi sobie zasady moralne takie jakie byśmy sobie życzyli. Możemy ją objąć takimi samymi zasadami jak ludzkie, ale czy ona będzie się do nich stosować? Rekina lub lwa też możemy objąć zasadami ludzi, ale jaki będzie efekt? Dlatego w stosunku do zwierząt stanowi się odrębne zasady. Tak samo powinniśmy postąpić w stosunku do AI. Ale z uwagi na jej inteligencję i moc, powinny być dużo prostsze i bardziej restrykcyjne niż zasady stanowione w stosunku do ludzi.
Niebezpieczeństwem jest to, że z uwagi na zaimplementowane podobieństwo AI do człowieka, ludzie mogą przez pomyłkę, w stosunku do AI kierować się niewłaściwymi zasadami moralnymi.
Aby uniknąć nieporozumień, proszę stosować się do zaproponowanej przeze mnie semantyki.

Oriflamme jednym kategorycznym stwierdzeniem 'cała wielka "świadomość" to po prostu impulsy elektryczne pomiędzy neuronami' - pokazał(a) zastępom naukowców (w tym noblistów), próbujących odpowiedzieć od lat na pytanie 'czym jest świadomość', że są darmozjadami marnującymi pieniądze podatników na szukanie oczywistych odpowiedzi. A wystarczyło spytać Oriflamme...

Te rzesze naukowców doskonale wiedzą jaka jest natura świadomości. Nie wiemy natomiast jak owa świadomość powstaje, co warunkuje istnieje pojedynczej świadomości w mózgu, które części mózgu, a nawet które dokładnie neurony za co odpowiadają, jakie są zależności genetyczne i epigenetyczne ze świadomością i wiele, wiele więcej. O tym że mózg działa dzięki przekazywaniu między neuronami małych ładunków elektrycznych, to wiemy od dziesiątek lat.
Musisz zaktualizować swoją wiedzę z zakresu kognitywistyki.

Stary co Ty wypisujesz. Jakies prawa dla syntetykow? Ze jak masz sztuczna reke to mozna Ci ja polamac gdyz maszyny nie maja prawa? To jest Twoja argumentacja?

Jaki bol odczuwaja? Gdy pod koniec Nathaniel rozje#$l jej reke to nic nie poczula, wstala, wsadzila mu kose w brzuch i poszla sobie dokrecic reke...

Jakie uczucia maszyn? To ze moj telefon nazywa sie smart-fon to znaczy ze ma miec prawa wyborcze bo jak mu
"powiem" zeby mnie obudzil o 7.20 to zrobi to?

Stary, masz wiedze ale kompletnie nie wiesz co z nia zrobic :-) Jak czytam takie komentarze to mam ochote obudzic sie w swiecie w ktorym ktos "wyciagnie wtyczke". Raz a porzadnie. Prawa maszyn? Nie w tym rozdaniu.

A mnie śmieszą takie komentarze jak Twój :) Ja mówię o w pełni wykształconej, świadomej sztucznej inteligencji, zaś Ty mi mówisz o protezie ręki, czy telefonie komórkowym...

Fakt że to ja mam racje potwierdza to, że czołowi naukowcy, futurolodzy i myśliciele obecnych czasów debatują nad implikacjami powstania silnej SI, jej przyszłych praw, oraz związanych z tym implikacji dla nas.

Co z tego wynika ? Fakt jest faktem i nie potwierdzi go debata, nawet najwiekszych uczonych.To jakbys mi powiedzial ze Hitler byl inteligentnym gosciem. Tez fakt, tez mialbys racje. Prawa dla syntetykow? A to dobre...:-)
Przerazasz mnie. Ale z drugiej strony fajnie ze masz ciekawe zainteresowania.

Jeszcze nie tak dawno temu śmiano się z praw dla kobiet i praw dla czarnych. Dziś z kolei śmieją się z praw dla naczelnych i praw syntetyków. Czy ludzie chcą czy nie, te prawa w końcu wejdą w życie. Syntetyki się rozwijają i w momencie zdobycia świadomości, po prostu będziemy musieli przyznać im prawa, chyba że chcemy by nasza kreacja się obróciła przeciw nam samym.

To jest właśnie świetne w tymi filmie. Nie wiemy tak do końca po której stronie stanąć.

Nawet jak byśmy nadali SI prawa to i tak jest wielce prawdopodobne że obróci się przeciwko nam. Chyba, że masz na myśli takie prawa których maszyna by po prostu nie mogła "przekroczyć" czy sprzeciwić się im. Wtedy to mogłoby nas uchronić przed zagładą :)

A czemu niby wielce? Możesz mi wymienić choćby jedną rzecz, jaką SI uzyskałaby poprzez zbuntowanie się przeciwko nam (czyli pewnie w domyśle - wszczęła z nami walkę)?

Nie bylibyśmy im już potrzebni. SI szybko by posiadła całą wiedzę jaką zgromadziliśmy przez tysiące lat i stwierdziła że jesteśmy prymitywnymi stworzeniami i łatwo można nami manipulować. Po prostu by nas zdominowali i kontrolowali lub pozbyli się nas.

Zdajesz sobie sprawę, że sztuczna inteligencja istnieje już od wielu, wielu lat i że inteligencja nie oznacza świadomości ani pragnień? Choćby taka SI posiadła wiedzę o całym wszechświecie, byłaby tylko zwykłym programem, który nic nie może zrobić, bo nie ma świadomości i tym samym, nie może wyznaczać sobie celów.

Nawet gdyby jednak SI miała świadomość, to skąd założenie, że z miejsca by stwierdziła, że trzeba nas zniszczyć/kontrolować? Skoro ludzie obecnie zakazują kary śmierci, ograniczają krwawe wojny, oraz pomagają innym poprzez programy socjalne, to po o wiele bardziej inteligentnej SI spodziewałbym się czegoś jeszcze lepszego. Nie wiem dlaczego w Twoim mniemaniu SI wykraczająca wiedzą i inteligencją ponad całą naszą rasę, jednocześnie zachowywałaby się jak zwykły jaskiniowiec, który widzi tylko dwie opcje: zabić, lub być zabitym.

Chodziło mi o taką SI która jest bardzo zbliżona do ludzkiego umysłu, taką jaka została przedstawiona właśnie w tym filmie. Co do ograniczania kary śmierci i krwawych wojen to się nie zgodzę.

No cóż, nie musisz się godzić, takie są po prostu fakty, więc zgoda ma tu drugorzędne znaczenie.

Zanim zaczną powstawać SI na obraz człowieka, to zapewne ONZ uchwali rezolucję zakazującą tego typu badań. Jeśli ONZ tego nie zrobi, to pewnie zrobią to parlamenty unii kontynentalnych, lub nawet parlamenty narodowe.
Przypomnę, że świat Zachodni praktycznie jednomyślnie przyjął zakaz klonowania reprodukcyjnego, gdy tylko technologiczne zaawansowanie naszego gatunku zaczęło dawać nam taką możliwość.

sztuczna inteligencja nadal będzie..... sztuczna.

Czyli? Czym owa w samej esencji będzie się różnić od inteligencji organicznej?

Co za różnica? Po co nam konkurencja na planecie? Sztuczna inteligencja istnieje, ale nie ma samoświadomości. I lepiej niech tak zostanie, oszczędzimy sobie trudu jej niszczenia.