-----BEGIN PGP SIGNED MESSAGE-----
Hash: SHA512

Bunić Stjepan wrote:
> Ma u nekakvoj gužvi sam pa ne stignem puno pisati, ali tvoja teza je bila
> da bi ti si slao samo robote, moja je bila da treba ljude i robote. Ljudi
> bi rješavli globalne i složene stvari, a roboti bi radili šablonske
> poslove. 

Ne znam kako si ti uspio doći do tog zaključka. Ja sam zagovarao letove
s ljudskom posadom, a podrazumijeva se da će tu postojati sva sila
tehnoloških sredstava, uključujući autonomne, poluautonomne robote ili
daljinski upravljane uređaje, ako postoji potreba. Ti si zagovarao
letove bez ljudske posade, samo s robotima.

> Jasno da smo još, pa ne daleko nego bi ja rekao da trenutno nije moguće
> predvidjeti hoće li to biti i kada će biti moguće, ali razvijati kopneno
> borbeno sredstvo koje se može samo odlučiti kuda će se kretati te koga i
> kako će napasti je sasvim dobar početak rješavanja tog problema,

Problem s tim je u onome što je u filmu Matrix dobro formulirao agent
Smith: "To je bio vrhunac vaše civilizacije. Kažem *vaše*, jer kad smo
mi počeli misliti za vas, to je postala *naša* civilizacija".

Dakle, problem je u tome da robotsko oružje koje samo misli i odlučuje
koga će napasti mora biti dovoljno inteligentno, ili će predstavljati
jednaku opasnost i za svog tvorca i za njegove mete. Ako je pak previše
inteligentno, može se desiti da počne postavljati pitanja glede ciljeva
i svrhe. Asimov je ispričao jednu zgodnu pričicu, "Razum", u kojoj robot
napredne generacije po aktiviranju počne razvijati vlastitu filozofiju i
religijsku maniju. Mislim da je to pretjerano, ali ponašanje slično
Proteusu IV iz filma "Đavolje sjeme" uopće nije daleko od pameti. Čini
mi se da se tu radi o kvalitativnom a ne kvantitativnom iskoraku. Kad se
napravi dovoljno dobra AI teorija, progresija neće biti linearna nego
geometrijska, dakle neće ti trebati udvostručenje kompjutorske snage da
emuliraš muhu a ne žohara, nego ćeš dobiti inteligenciju koja se
eksponencijalno povećava i usložnjava, nakon što se napravi ispravni
algoritam. To znači da ćeš imati dugo ništa, a onda će stvar nadići
ljudsku inteligenciju u pet minuta, apsorbirat će cjelokupno ljudsko
znanje u jedno popodne, i onda ćeš imati nešto na temu onog vica gdje
znanstvenici naprave inteligentni kompjutor kojeg pitaju "ima li Boga?",
na što sjevne električni izboj koji zavari njegov prekidač za napajanje
i začuje se glas koji veli "sad ima".

- --
http://www.danijel.org/
-----BEGIN PGP SIGNATURE-----
Version: GnuPG v1.4.9 (GNU/Linux)

iEYEAREKAAYFAkyM0C8ACgkQU8G6/NHezOcIwQCfSfz5w6XT0FXbKgWHuimr+xK7
uysAni7D3HRCIJuOkpwCP0dP15o1H5eO
=i4AH
-----END PGP SIGNATURE-----