Umelá Inteligencia a budúcnosť

[HellAngel]

v prvom rade by si musela AI uvedomot sama seba. Vediet co znamena smrt, teda, ze ked niekto vytiahne zasuvku, tak zomrie. Vtedy moze nastat efekt samozrachrany a vidiet ludstvo ako nebezpecenstvo. Ratam, ze ale toto tak skoro nehrozi, teda aspon niekto taku AI nevytvoril, zataial je to stale program ktory len vyhodnocuje 0 a 1.
Z pohladu buducnosti tu nebezpecenstvo je, urcite budeme AI stale vylepsovat, az raz mozme dospet k tomu, co som pisal vyzsie

[LordKJ]

2HellAngel ano, zatial je vsetka ai co mame len vstup -> vystup to, ze ju ucis na znamych veciach z toho este nerobi samostatnu bytost


ot pre leona

Spoiler: ukázať

Tak filmy jak Predator, Votrelec, Thing, Indiana Jones, Star Wars povodne serie, ET mimozemstan, Smrtonosna zbran, Suboj Titanov... to su filmy aj o 10 rokov starsie ako ja (87 ročník) a sú to must see klasiky do budúcna aj keby ti bolo 15

vidis a ja som 95 a nevidel som z toho zoznamu ani jeden film /akoze suvislo ked islo nieco v TV a bol som v miestnosti neratam/

[maniak]

Keby NASA vedela, ze sa ma Zem za 2 tyzdne s niecom zrazit, tak by to ludom tiez nepovedali.

Toto je oblubena hlaska, ale nakolko co sa velkych objektov je obloha uz dobre zmapovana, tak v pripade vyznamnej katastrofy by sme to uz vedeli od inych ludi.

Bozska superinteligencia)

A ktora by to bola? Zidovsky Jahve? Islamsky Alah? Budha? Boh? Velke spagetove monstrum alebo nebodaj Velky Liehova?

[molnart]

ta buducnost vobec nie je tak daleko ako si myslite. pod AI si netreba predstavovat vyhradne nieco co rozmysla o existencii, uz dneska tu mame rozne deep learning systemy ktore empirickym prieskumom sa sami dovzdelavaju. prikladom je napr. google translate, alebo rozne medicke stroje ktore by raz mohli autonomne operovat a liecit cloveka. problem je ze dnes v podstate nikto netusi ako to presne robia, co brani nasadeniu v praxi, kedze lekari nevedia podla akeho uvazovania dospel stroj k tomu co ide robit, takze chyba dovera. DARPA uz financuje prieskum ktory by mal zistit ako tieto AI systemy uvazuju a ucia sa. v momente ale ako je system schopny sam sa vzdelavat tak su moznosti nekonecne a limitom je iba prisun dostatocneho vykonu.

problemom je ze dnes su nase nazory, vedomosti, a skusenosti zdokumentovane velmi protichodne (vid fake news), takze je dost velke riziko ze stroj sa zacne ucit podla nepravdvich informacii. moj osobny predpoklad je, ze ak nejake AI sa dostane na ultimatnu uroven tak si uvedomi ze ludia na tejto planete su len na skodu a mozno necha par v rezervaciach, mozno ani tam nie,

[HellAngel]

zalezi aj naco ma konkretna AI sluzit, nie vsetko je mozne riesit AI a je to v podstate iba v testoch. A ako som uz pisal, iba vyhodnocuje 0 a 1, akurat doba napreduje a dokazeme do AI napratat viacej informci a poznatkov, aby jej vyhodnostenie bolo lepsie. Nehat ju nieco riadit je nemozne, nakolko k vyhodnoteniu situacie clovekom vplyva viacero faktorov, kdezto u AI to je len 0 alebo 1.
Nemyslim si, ze AI je v takom stadiu, aby dokazala spravne rozhodovat v niektorych klucovych veciach v realnom zivote.

[wingo]

AI samozrejme vie rozhodovať, niekedy dokonca lepšie ako človek, ale vždy záleží len od toho čím ju nakŕmiš a či sa to rozhodnutie danému človeku bude páčiť aj z iných hľadísk, ktoré AI nebralo do úvahy, napr. ten záverečný odstavec molnarta

Ono je to analogické s výchovou dieťaťa, dieťa tiež keby malo len určité podnety bude sa držať v rámci tých mantinelov lebo ich považuje za samozrejmé. Keď už berieme samoučiace systémy tá analógia s dieťaťom je myslím veľmi trefná. Inak s AI nebude neprekonateľný problém dovtedy, dokým nedáme AI možnosť samej sa množiť.

[HellAngel]

ked dame AI podstatu, uvedomenie si zivota a smrti, co tieto veci znamenaju, furt to bude len stroj na vyhodnocovanie. Ono v podstate AI pouzivme dlho, len v inej forme.
Rozhodnutie ktore vyberie AI je diskutabilne, moze to byt z hladiskastatistiky, percent srpavne, ale co moralne hladisko? Clovek ako som pisal, pri vybere moznosti zohladnuje XY faktorov, ktore musis ziskat, nie sa ich naucit. City, laska, moralka, smutok, radost, pud sebazachovy.
Rozmyslat nad zivotom, ako prezit, ako zabranit svojej vlasnej smrti ....
Dnes mame AI co sa dokaze naucit cele dejiny, dokaze vyhodnocovat udaje na zaklade toho co done vlozime, dokaze sa ucit iba v zmysle informacii a preto AI nemoze vo vela veciach rozhodovat za cloveka

[shiro]

skynet nazov som pocul ale no idea odkial
ad. chodiaci robot
a?, to ma stale daleko k skynetu ktoreho sa tu bojite. Mechanicka cinnost nebude problem ale nieco vymysliet, kreativita atd uz problemom je.

Napadov ma AI na internete poprdel A kedze nieje limitovana pomalym ludskym myslenim ci peniazmi, nema problem cokolvek vyrobit.

Ohladom uvedomenia si sameho seba a smrti - AI, pokial nebude izolovana na jeden (super)pocitac, tak so smrtou nebude mat ziaden problem. Rozkopiruje sa po svete internetom ala torrenty. A ako znicite nieco decentralizovane? Nijak, jedine za cenu znicenia vsetkeho, aby sa nemala kde schovat. Kto pozna Borgov tak vie o com je rec

Ohladom rozhodovania - AI nieje clovek, nema mat skade zakodovane, co je zle a co dobre, ako my, ludia, ktori to mame geneticky, alebo vychovou, alebo cim. Ano, male decko tiez nevie co je dobre a co zle, ale nic zle nesposobi. Pretoze pokial vyrastie do stavu aby nieco sposobit mohlo, uz to davno vie.

Leon -> to snad nemyslis vazne. Mars pred TV a dohnat co si zameskal

[LordKJ]

ale dnesny stav ma k takemu niecomu velmi daleko, len to hovorim

[kalor]

https://www.seznam.cz/zpravy/clanek/mel ... lanky-home - čo si o tom myslíte ? neprehaňa Musk trošku ?

[HellAngel]

neprehana, kontrola AI musi byt

[LordKJ]

paranoia much?

[molnart]

Rozhodnutie ktore vyberie AI je diskutabilne, moze to byt z hladiskastatistiky, percent srpavne, ale co moralne hladisko? Clovek ako som pisal, pri vybere moznosti zohladnuje XY faktorov, ktore musis ziskat, nie sa ich naucit. City, laska, moralka, smutok, radost, pud sebazachovy.

vychadzas z milneho predpokladu ze clovek sa rozhoduje spravne. clovek je najnedokonalejsi rozhodovaci stroj ktory moze byt, presne kvoli veciam ktore si vymenoval. vid napr. dilemu samojazdiacich aut, ked AI sa musi rozhodnut v krizovej situacii ci obetovat spolujazdca alebo zrazit chodca na ceste. to je situacia ktoru clovek nevie vyhodnodit, kym AI moze zobrat do uvahy vek, pocet deti, spolocenske postavenie apod. a zachovat hodnotnejsieho cloveka. samozrejme za predpokladu ze ma k dispozicii dostatok dat.

[kalor]

jasne že musi byť kontrola ale pride mi že pozerá priliš veľa sci-fi, keď bude možnosť AI zo sekundy na sekundu vypnúť jedným tlačítkom tak nie je možn=e aby boli nejakou hrozbou, pokiaľ sa nedostane do zlých rúk to tlačítko

[HellAngel]

molnart: to ze AI vyhodnoti na zaklade nejakych udajov situaciu, neznamena ze musi byt spravne. AI bude mat zakodovane parameter prezitia, uzitkovost pre planetu. Je to ale skutocne spravne?
TO je prave najvacsi rozdiel medzi clovekom a strojom, clovek robi rozhodnutia na zaklade emocii, citov, nemusi byt spravne, to robi cloveka clovekom.
Ak by sa svet riadil iba tym, co je pre prezitie planety najlepsie, doolim si trvdit, ze my by sme tu uz neboli. Preto AI musi byt kontrolovana, AI nemoze svojvone rozhodovat o osudoch cloveka, leba ak bude, tak je jasne ze clovek neprezije