Temna stran umetne inteligence
Predavanje o negativni in temni strani umetne inteligence – o tveganjih, manipulaciji in nevarnostih, ki jih AI prinaša posamezniku in družbi, ter o tem, kako jih prepoznati in se nanje pripraviti.
Temna stran umetne inteligence
Predavanje Temna stran umetne inteligence osvetljuje manj prijetno plat tehnologije, ki vse bolj oblikuje naše odločitve, odnose in razumevanje resnice – ne s silo, temveč prek udobja in optimizacije. Temelji na knjigah Temna stran umetne inteligence in Superinteligenca avtorja Mitja Pavlič ter na razumljiv, a odkrit način predstavi tveganja, ki jih pri vsakdanji rabi umetne inteligence pogosto spregledamo. Namen ni ustrahovati, temveč realistično opozoriti – temne strani umetne inteligence moramo namreč razumeti, preden lahko nanje odgovorimo.
Predavanje o temni strani umetne inteligence
Predavanje je namenjeno vsem, ki želijo razumeti, kaj se dogaja v ozadju navdušenja nad umetno inteligenco. Skozi konkretne primere in premisleke iz obeh knjig obravnavamo:
- Kako je umetna inteligenca nastala in kako hitro se razvija – od prvih idej do današnjih velikih jezikovnih modelov.
- Kako AI oblikuje naše odločitve – algoritmi, ki odločajo, kaj vidimo, kupimo in komu ali čemu verjamemo.
- Manipulacija in nadzor – od ciljanega oglaševanja do profiliranja, družbenega nadzora in nadzorovalnega kapitalizma.
- Od ozke do splošne in superinteligence – kam vodi razvoj in zakaj je to za človeštvo prelomno.
Kako umetna inteligenca vpliva na posameznika in družbo?
Umetna inteligenca ne deluje le v ozadju tehnologije – vse bolj, pogosto neopazno, posega v naša življenja. Na predavanju osvetlimo:
- Digitalno zasvojenost in izgubo zasebnosti – kako so aplikacije zasnovane, da nas zadržijo čim dlje.
- Avtomatizacijo odločanja – ko o pomembnih stvareh (kredit, zaposlitev, zdravje) soodloča algoritem.
- Izrivanje človeka – vpliv na delovna mesta, veščine in našo samostojnost.
- Erozijo resnice – dezinformacije, globoke ponaredke (deepfake) in izgubo zaupanja v to, kar vidimo.
Splošne nevarnosti in tveganja umetne inteligence
Med glavnimi tveganji, ki ju izpostavljata obe knjigi, so:
- Manipulacija in nadzor: algoritmično oblikovanje mnenj, vedenja in političnih odločitev.
- Zasebnost in nadzor podatkov: množično zbiranje podatkov ter profiliranje posameznikov in skupin.
- Avtonomno orožje in vojskovanje: uporaba umetne inteligence v konfliktih in varnostnih sistemih.
- Problem črne skrinjice: niti razvijalci pogosto ne razumejo povsem, kako AI sprejema odločitve.
- Neusklajenost vrednot: kaj se zgodi, če cilji zmogljivega sistema niso usklajeni s človeškimi.
Superinteligenca – zadnji izum človeštva?
Knjiga Superinteligenca odpira eno največjih vprašanj našega časa: kaj se zgodi, ko umetna inteligenca preseže človeško razumevanje in postane sistem, ki nas prekaša v dojemanju, odločanju in ustvarjanju?
- Pot od ozke k splošni in nato superinteligenci – in zakaj je prehod lahko hiter ter nepredvidljiv.
- Zakaj je usklajenost vrednot med človekom in strojem ključno varnostno vprašanje.
- Vpliv na delo, nadzor in geopolitiko – kdo bo obvladoval to tehnologijo.
- Eksistenčna vprašanja o vlogi in nujnosti človeka v svetu superinteligence.
- Bomo trenutek, ko izgubimo nadzor, sploh prepoznali? Prihodnost ni tehnološka neizbežnost, temveč posledica naših odločitev in vrednot.
Knjigi, na katerih temelji predavanje
Vsebina predavanja izhaja iz dveh knjig avtorja Mitja Pavlič, ki poglobljeno obravnavata temno stran in prihodnost umetne inteligence.
Temna stran umetne inteligence
Kako umetna inteligenca prek udobja in optimizacije oblikuje naše odločitve, odnose in razumevanje resnice – od algoritmične manipulacije in nadzora do zasebnosti, avtomatizacije in transhumanizma. Ne pesimistično, temveč realistično.
Superinteligenca
Kaj se zgodi, ko umetna inteligenca preseže človeško razumevanje. Od poti k superinteligenci in problema črne skrinjice do usklajenosti vrednot ter eksistenčnih vprašanj o vlogi človeka. Je Superinteligenca morda res zadnji izum človeštva?
Pogosta vprašanja in odgovori
Predavanje je namenjeno vsem, ki umetno inteligenco že uporabljajo ali spremljajo njen razvoj in želijo razumeti tudi njeno manj prijetno plat – tveganja, manipulacijo in dolgoročne posledice. Primerno je za posameznike, podjetja, izobraževalne ustanove in odločevalce.
Ne. Pristop je realističen, ne pesimističen. Cilj ni strašiti, temveč trezno predstaviti tveganja umetne inteligence, saj jih moramo razumeti, preden lahko nanje smiselno odgovorimo.
Ne. Vsebina je razložena na razumljiv način, brez tehničnega žargona. Zadostuje splošna radovednost in želja razumeti, kako umetna inteligenca vpliva na naše življenje.
Predavanje temelji na knjigah Temna stran umetne inteligence in Superinteligenca avtorja Mitja Pavlič, ki obravnavata negativne in dolgoročne vidike razvoja umetne inteligence.
Vsa naša predavanja so dolga 6 pedagoških ur ali 4 ure in pol. Seveda pa se za dolžino trajanja predavanja lahko prilagodimo tudi željam naročnika. Med predavanjem je po navadi vsaj en kratek premor za predavatelja in udeležence predavanja.
Predavanje izvajamo preko spleta (online) ali fizično pri naročniku.
Superinteligenca je umetna inteligenca, ki naj bi presegla človeka na vseh področjih – razumevanju, odločanju in ustvarjanju. Pomembna je, ker bi lahko postala „zadnji izum človeštva“ – njena usklajenost s človeškimi vrednotami je zato ključno varnostno vprašanje.
Predavanje se dotakne tudi mita o „stikalu za izklop“ in vprašanja, ali je odklop od infrastrukture umetne inteligence v današnjem svetu sploh še realen. Odgovor je bolj zapleten, kot se nam morda zdi.
Da. Udeleženci lahko prejmejo gradivo s predavanja, na željo pa tudi potrdilo o udeležbi na svoj elektronski naslov.
