• |
ide | kryesore

Brenda betejës së errët globale/ Kush do ta kontrollojë Inteligjencën Artificiale

Arkiva, F1, Lajme, Planet, Të fundit
artificiale



Në një pasdite të lagësht nëntori, nënpresidentja e SHBA-ve, Kamala Harris dhe Nick Clegg i kompanisë “Meta” u futën në një tendë të madhe në ambientet e një shtëpie fshati anglez të shekullit të 19-të në veri të Londrës. Zunë vendet e tyre në një tryezë rrethore dhe, ndër të tjera, nisën përpjekjet për të shpëtuar njerëzimin. Mes motit të zymtë në Bletchley Park, i cili ishte përdorur si selia e aleatëve për thyerjen e kodeve të Luftës së Dytë Botërore, Clegg-ut dhe Harris-it iu bashkuan në një mbledhje elite të liderëve globalë, akademikë dhe drejtues të teknologjisë për të trajtuar atë që pesimistët druajnë se është një kërcënim i ri shkatërrues me të cilin përballet sot bota: arratisja e Inteligjencës Artificiale.

Politikanët dhe drejtuesit e teknologjisë ranë dakord për një deklaratë të përbashkët të qëllimeve të mira pas 2 ditë bisedimesh, por pa një përgjigje të unifikuar se çfarë duhet bërë. Në vend të kësaj, ata bënë plane se si të menaxhojnë këtë lloj teknologjie që do të dominojë pjesën më të madhe të dekadës së ardhshme dhe që ka të ngjarë të përmbysë gjithçka, nga biznesi dhe kujdesi shëndetësor deri tek vetë demokracia.

Clegg, një ish-zëvendëskryeministër britanik, argumentoi se mbikëqyrja e AI ishte e ngjashme me ndërtimin e një avioni që është tashmë në fluturim, punë natyrisht e rrezikshme dhe e vështirë. Harris trumbetoi përpjekjet e Uashingtonit për të adresuar rreziqet e AI përmes marrëveshjeve vullnetare të biznesit siç është standardi i arit në botë. Ursula von der Leyen, presidentja e Komisionit Evropian, e cila ishte gjithashtu e pranishme, u kërkoi të tjerëve të ndiqnin rregulloren e re, ligjërisht të detyrueshme të Brukselit për të goditur teknologjinë.

Debati përfaqësonte në fakt pamjen e një të vërtete më të madhe. Vitin e kaluar, një luftë politike u ndez në mbarë botën, kryesisht në hije, mbi mënyrën se si – dhe nëse – duhet të kontrollohet AI. Kjo lojë e re e madhe dixhitale është shumë larg fundit. Kushdo që fiton do të çimentojë dominimin e tij mbi rregullat perëndimore për një teknologji që përcakton epokën. Pasi të vendosen këto rregulla, do të jetë pothuajse e pamundur të rishkruhen.

Për ata që panë me sytë e tyre atë takim pazaresh nën shiun britanik, u erdhën në mendje fuqitë evropiane të shekullit të 19-të që “gdhendën botën”.

“Ndihej sikur ishte një realitet alternativ” – thotë Amba Kak, drejtuese e “Institutit AI Now”, një organizatë jofitimprurëse, e cila mori pjesë në diskutime. Në fund të takimit, 29 vende, duke përfshirë Kinën, anëtarët e Bashkimit Evropian dhe Shtetet e Bashkuara, nënshkruan një marrëveshje vullnetare për të reduktuar rreziqet që i janë bashkuar agjendës politike falë ardhjes së ChatGPT të OpenAI.

Vitin e ardhshëm, beteja për të kontrolluar teknologjinë pritet të krijojë fitues dhe humbës. Deri në fund të vitit 2024, politikëbërësit presin që shumë standarde të reja të AI të jenë finalizuar.

Për këtë artikull, POLITICO foli me më shumë se tre duzina politikanësh, politikëbërësish, drejtues të teknologjisë dhe të tjerë, shumë prej të cilëve iu dha anonimiteti për të diskutuar një çështje të ndjeshme, për të kuptuar dinamikën në lojë teksa bota lufton me këtë teknologji të re përçarëse.

Pyetja me të cilën përballesh është nëse SHBA-ja, BE-ja apo Mbretëria e Bashkuar – apo kushdo tjetër – do të jenë në gjendje të hartojnë një plan për të cilin demokracitë perëndimore mund të bien dakord. Nëse ekonomitë e industrializuara liberale nuk arrijnë të arrijnë një regjim të përbashkët mes tyre, Kina mund të ndërhyjë për të vendosur një rregullore globale për një teknologji që – në një skenar të fundit të botës – njëfarë frike ka potencialin ta fshijë njerëzimin nga faqja e Dheut.

Teksa Brukseli dhe Uashingtoni parashtrojnë planet e tyre kontradiktore për rregullimin e AI, shanset për një marrëveshje nuk duken aspak premtuese.

Takimi i Japonisë

Një muaj përpara konferencës nën shiun anglez, politikëbërësit ishin përpjekur furishëm të bënin përparim në anën tjetër të botës. Ishte tetor dhe Věra Jourová u shfaq e raskapitur nga fluturimi i saj 16-orësh nga Brukseli në Japoni. Politikania çeke kishte vetëm disa javë në rolin e saj të ri, si e dërguara më e lartë e teknologjisë e BE-së dhe detyra e saj e parë ndërkombëtare nuk do të ishte e lehtë.

Misioni i Jourová ishte të prezantonte rregulloren evropiane të AI në një takim të G7 ku udhëheqësit perëndimorë ishin mbledhur për të provuar të hartonin standarde të reja globale për formën më të avancuar të kësaj teknologjie, të njohur si “AI gjenerues”, zhvillimi i fuqishëm pas ChatGPT dhe mjeteve rivale.

“Inteligjenca artificiale gjeneruese pushtoi jetën tonë kaq shpejt”, tha komisionerja Věra Jourová
“Inteligjenca artificiale gjeneruese pushtoi jetën tonë kaq shpejt”, tha komisionerja Věra Jourová

Qasja e Brukselit është e sanksionuar në Aktin e Inteligjencës Artificiale të BE-së, përpjekja e parë në botë për një legjislacion detyrues për këtë çështje. Ndryshe nga qëndrimi i favorizuar nga SHBA-ja, vizioni i BE-së përfshin ndalime për format më invazive të teknologjisë dhe rregulla strikte që kërkojnë që kompanitë si Google dhe Microsoft të jenë më të hapura për mënyrën sesi dizajnojnë produkte të bazuara në AI.

“Inteligjenca artificiale gjeneruese pushtoi jetën tonë kaq shpejt dhe ne kemi nevojë për diçka të shpejtë” – tha Jourová për POLITICO pasi mori trenin 2-orësh nga Tokio për në Kioto ku mbahej samiti.

Në takimin 3-ditor në Japoni, Nathaniel Fick pa të kishte rivalë në fushë. Teksa diplomati më i lartë për çështje digjitale të Joe Biden, Fick, një ish-drejtues i teknologjisë, nuk propozoi ndalime ose kërkesa strikte. Në vend të kësaj, ai shtyu për një regjim më të lehtë, të bazuar kryesisht në angazhime vullnetare nga industria dhe ligjet ekzistuese vendase.

“Njerëzit presin që Shtetet e Bashkuara të ndërthurin çështjet e politikës së AI në gjithçka që bëjmë”, – tha Fick për POLITICO pas përfundimit të samitit të Kiotos. “Kornizat, kodet, parimet që ne zhvillojmë do të bëhen baza për veprim.”

Në takimet e duelit me politikëbërësit e G7, drejtuesit e kompanive të teknologjisë dhe figura të tjera me ndikim, Jourová dhe Fick paraqitën propozimet e tyre.
Për Jourová e BE-së, çështja ishte e thjeshtë. Brukseli e kishte shënuar tashmë veten si oficeri i policisë digjitale të Perëndimit, me një sërë rregulloresh për gjithçka, nga mbrojtja e privatësisë së konsumatorëve deri tek kontrolli i mediave sociale.

Koha e samitit përfundoi me pak kohë joproduktive, përveç disa pushimeve për cigare të rrëmbyera dhe dreka me nxitim në kafene. Jourová argumentoi se vetëm Evropa mund të kishte ashpërsinë e nevojshme. BE-ja, tha ajo, mund të godasë kompanitë me gjoba të mëdha dhe të ndalojë format më invazive të AI – siç është vlerësimi social, të cilat janë algoritme komplekse që ndjekin lëvizjet e njerëzve, të përdorura në mënyrë famëkeqe në Kinë.

“Ajo erdhi me një plan dhe ky ishte të na bindte se rregullat e Evropës ishin e vetmja “lojë në fushë” – tha një nga njerëzit që takuan Jourová-n. Një zyrtar tjetër nga një vend i G7-ës tha se shefja digjitale e Evropës hodhi poshtë propozimin alternativ të Uashingtonit për të hequr legjislacionin detyrues.
Kundërsulmi i Fick u mbështet në pozicionin e padiskutueshëm të Amerikës si fuqia botërore e zhvillimit të AI.

Zëvendëspresidentja e SHBA Kamala Harris trumbetoi përpjekjet e Uashingtonit për të adresuar rreziqet e AI përmes marrëveshjeve vullnetare të biznesit.
Zëvendëspresidentja e SHBA Kamala Harris trumbetoi përpjekjet e Uashingtonit për të adresuar rreziqet e AI përmes marrëveshjeve vullnetare të biznesit.

Një ngërç politik në Capitol Hill do të thotë që asnjë ligj gjithëpërfshirës nga Uashingtoni nuk ka gjasa të miratohet së shpejti. Por Shtëpia e Bardhë ka bërë tashmë një mori njoftimesh. Korrikun e kaluar, administrata Biden njoftoi angazhime vullnetare nga gjigantët kryesorë të teknologjisë si Amazon për ta bërë AI më të sigurt. Më pas Biden lëshoi një urdhër ekzekutiv, të shpallur më 30 tetor, i cili fuqizonte agjencitë federale të vepronin.

Propozimet e Fick përfshinin kritikimin e ligjit të Brukselit për imponimin e shumë ngarkesave rregullatore mbi bizneset, krahasuar me gatishmërinë e Uashingtonit për të lejuar kompanitë të krijojnë, sipas dy individëve që takuan Fick në Japoni.

“Mesazhi ishte i qartë” – tha një tjetër diplomat perëndimor që mori pjesë në samitin e G7 të Kiotos. “Uashingtoni nuk do ta linte Brukselin të shtronte rrugën e tij.”

Ushqim i mirë para apokalipsit

Me t’u kthyer në Evropë, përpjekjet për të arritur një konsensus vazhduan – në disa mjedise që shihen si të pamundura.

Një darkë luksoze me 6 pjata në Pallatin Elysée, rezidenca zyrtare e presidentit francez e shekullit të 18-të në Paris, nuk i takon asgjë teknologjisë së lartë.
Por gjatë një takimi 5-orësh me kuzhinier gustator dhe verë të mirë, në nëntor, Emmanuel Macron mblodhi 40 ekspertë të industrisë, duke përfshirë Presidentin e OpenAI, Greg Brockman dhe shefin e AI të Meta, Yann LeCun.

Biseda gjatë darkës u përqendrua menjëherë në krijimin e rregullave.

Macron është një ndërmjetës i pushtetit global. Franca ka një industri të madhe vendase të AI dhe presidenti është personalisht i etur për të udhëhequr përpjekjet ndërkombëtare për të vendosur rregulla globale për teknologjinë. Ndryshe nga stereotipet e politikanëve francezë që duan rregullat, Macron mbetet i kujdesshëm ndaj Aktit të AI të Brukselit, nga frika se do të pengojë firmat si Mistral, një startup i AI i bashkëthemeluar nga Cedric O, ish-ministri dixhital i Francës.

Presidenti francez Emmanuel Macron mbetet i kujdesshëm ndaj Aktit të AI të Brukselit.
Presidenti francez Emmanuel Macron mbetet i kujdesshëm ndaj Aktit të AI të Brukselit.

Teksa Macron dëgjonte me kujdes, të ftuarit e tij në darkë parashtruan propozimet e tyre rivale. Diskutimi ekspozoi një tjetër aspekt kyç të debatit global të AI: përplasja midis atyre që besojnë se rreziqet më të mëdha janë ende shumë vite larg, dhe atyre që mendojnë se janë tashmë këtu. Kjo është beteja në qendër të të gjithë debatit global. Ai vendos ata që kanë një qasje më optimiste ndaj potencialit të AI dhe duan të lejojnë sa më shumë eksperimente të jetë e mundur, kundër të tjerëve që kanë frikë se është tashmë tepër vonë për të mbrojtur njerëzimin nga dëmtimet serioze.

Brockman i OpenAI, një nga ata që është i qetë për rreziqet imediate dhe mendon se fokusi duhet të jetë në adresimin e kërcënimeve afatgjata, i tha presidentit francez se AI ishte një forcë e jashtëzakonshme për të mirën. Kjo sipas 3 personave që morën pjesë në darkë. Çdo rregullim – veçanërisht rregulla që mund të pengojnë rritjen meteorike të kompanisë – duhet të fokusohet në kërcënimet afatgjata nëse AI do të mundet përfundimisht të mbizotërojë kontrollin njerëzor, shtoi ai.

Të tjerë si Meredith Whittaker, një teknologe amerikane gjithashtu e pranishme në darkën e Parisit në nëntor, argumentoi se dëmet në botën reale të AI ekzistuese – duke përfshirë grupet e të dhënave të gabuara që rrënjosën paragjykimet racore dhe gjinore – kërkonin që politikanët të vepronin tani.

“Macron i pranoi të gjitha”, – tha një nga të pranishmit, të cilit, si të tjerët të pranishëm, iu dha anonimiteti për të folur mbi takimin privat. “Ai donte që njerëzit të dinin që Franca qëndron pas rregulloreve më të mëdha, por gjithashtu se Franca ishte gjithashtu e hapur për biznes.”

Argumente të ngjashme – duke theksuar nevojën për rregulla për t’u fokusuar në rreziqet afatgjata kundër një goditjeje të menjëhershme emergjente – po shfaqen tashme në shumë kryeqytete perëndimore.

Depfake të frikshme

Teksa liderët po përpiqeshin të shtrydhnin kokën rreth problemit, drejtuesit e teknologjisë këmbënglnin në planet duke u kërkuar politikanëve që të mos vendosin “mbi-rregulla”.

Eric Schmidt, ish-shefi ekzekutiv i Google, dhe themeluesi i LinkedIn, Reid Hoffman, fluturuan në Uashington, Londër dhe Paris për të ofruar mendimin e tyre se si të trajtojnë AI. Këtë e konfirmojnë 5 individë që kanë dijeni për diskutimet. Një goditje e tepruar, argumentuan titanët e teknologjisë, do t’i jepte Kinës autoritare një avantazh vendimtar në AI. Shumë si Schmidt dhe Hoffman kanë investuar miliarda në startup-et e AI.

Për të përforcuar argumentet e tyre, bosët e teknologjisë që duan një rregulla më të lehta e bënë personale. Lobistët e inteligjencës artificiale treguan të paktën dy liderë perëndimorë në video “deepfake” të ngjashme me jetët e vetë liderëve. Këto falsifikime të krijuara nga AI janë ende në avantazhin e teknologjisë dhe shpesh është e vështrirë për të bërë diferencën. Por lobistët përdorën falsifikime të mira për t’u treguar udhëheqësve se si teknologjia kishte potencialin të evoluonte për të paraqitur rreziqe serioze në të ardhmen, sipas 3 individëve të informuar për ato takime.

Kundërshtarët pretendojnë se taktika të tilla lejojnë kompani si OpenAI dhe Alphabet të nënvlerësojnë se si teknologjia po i dëmton njerëzit aktualisht.

“Shumica e amerikanëve nuk e kuptojnë se AI tashmë është atje”, – tha Cory Booker, një senator demokrat amerikan. “Dua të sigurohem që ligjet tona aktuale kundër diskriminimit … ligjet tona aktuale që pohojnë mbrojtjen, janë duke u zbatuar.”

Duke parë vitin 2024, ata që duan ligje më të lehta duket se po fitojnë, pavarësisht rregullave të reja detyruese të BE-së për AI.

Eric Schmidt, ish-shefi ekzekutiv i Google, themeluesi i LinkedIn, Reid Hoffman dhe Sam Altman i OpenAI, ishin mes atyre që iu bashkuan udhëheqësve botërorë në Londër për të diskutuar mbi AI vitin e kaluar.
Eric Schmidt, ish-shefi ekzekutiv i Google, themeluesi i LinkedIn, Reid Hoffman dhe Sam Altman i OpenAI, ishin mes atyre që iu bashkuan udhëheqësve botërorë në Londër për të diskutuar mbi AI vitin e kaluar.

Pasi Brukseli arriti një marrëveshje politike në dhjetor mbi Aktin e tij të AI, Macron – i freskët nga darka e tij personale e krerët e AI – u takua me kancelarin gjerman Olaf Scholz dhe kryeministren italiane Giorgia Meloni për të kërkuar më pak kontrolle mbi format më të fundit të teknologjisë. Presidenti francez shqetësohej se një rregullim i tillë do të pengonte kampionët vendas – duke përfshirë Mistral, kompaninë franceze të AI të mbështetur, pjesërisht, nga Schmidt, ish-shefi i Google.

Franca u bë pengesë derisa përfundimisht iu dorëzua presionit politik në fillim të shkurtit për të mbështetur rregullat, megjithëse me rezerva të mëdha. “Ne do të rregullojmë gjërat që nuk do t’i prodhojmë apo shpikim më” – i tha Macron një audience në Tuluzë. “Kjo nuk është kurrë një ide e mirë.”

Bio-armë dhe Big Tech

Tristan Harris mendoi se e kishte goditur me nokaut. Në një seancë private mes ligjvënësve amerikanë dhe ekspertëve të teknologjisë në shtator, Harris, një bashkëthemelues i Qendrës për Teknologjinë Humane, një organizatë jofitimprurëse, përshkroi se si inxhinierët e tij e kishin detyruar produktin më të fundit të Inteligjences Artificiale të Metës të kryente një akt të tmerrshëm: ndërtimin e një arme biologjike.

Kjo tregoi se qasja e Metës ndaj inteligjencës artificiale ishte shumë e dobët dhe potencialisht e rrezikshme, argumentoi Harris, sipas dy zyrtarëve që morën pjesë në takim.

Gjigandi i teknologjisë i Mark Zuckerberg favorizoi të ashtuquajturën teknologji me burim të hapur – lehtësisht e arritshme për të gjithë – me pak masa mbrojtëse kundër abuzimit. Një hapje e tillë, shtoi Harris, do të çonte në dëmtim të botës reale, duke përfshirë përhapjen e armëve të shkatërrimit në masë të krijuara nga Inteligjenca Artificiale.

Ndryshe nga gjigantët e tjerë të Silicon Valley, Meta e Mark Zuckerberg ka qëndruar në anën e atyre që duan ta mbajnë teknologjinë të hapur për të gjithë.
Ndryshe nga gjigantët e tjerë të Silicon Valley, Meta e Mark Zuckerberg ka qëndruar në anën e atyre që duan ta mbajnë teknologjinë të hapur për të gjithë.

Por triumfi i Harris nuk zgjati shumë. Zuckerberg, i cili ishte gjithashtu i pranishëm në seancën dëgjimore në Capitol Hill, nxori shpejt telefonin e tij dhe gjeti të njëjtin informacion për armët biologjike përmes një kërkimi të thjeshtë në Google. Goditja e Zuckerberg shkaktoi të qeshura në dhomë. Ai hodhi poshtë akuzat e Harris se qasja e AI ishte një kërcënim për njerëzimin.

“Nuk pati efektin që Harris mendonte se do të kishte” – tha një nga zyrtarët që ruajti anonimitetin për të folur mbi takimin.

Përballja Harris – Zuckerberg ngre një tjetër pyetje kyçe për politikëbërësit: A duhet që Inteligjenca Artificiale të kufizohet në një pjesë të vogël të kompanive të besuara apo të hapet për të gjithë ata që duan ta shfrytëzojnë?

Sipas atyre që favorizojnë licencimin e inteligjencës artificiale të avancuar për disa kompani të përzgjedhura, rreziqet e menjëhershme janë shumë të mëdha për ta lënë të lirë në botën e gjerë. Një prezantim në PowerPoint që paralajmëron se modelet e inteligjencës artificiale me burim të hapur do të prodhonin bio-armë të pakontrollueshme dhe të aksesueshme për terroristët, u është paraqitur privatisht zyrtarëve qeveritarë në Londër, Paris dhe Uashington, sipas 6 politikëbërësve të përfshirë në ato takime. POLITICO nuk mundi të përcaktojë se cila organizatë qëndron pas këtyre parashikimeve të tmerrshme.

Tristan Harris, bashkëthemelues i Qendrës për Teknologji Humane, flet në New York City në 2022
Tristan Harris, bashkëthemelues i Qendrës për Teknologji Humane, flet në New York City në 2022

Microsoft dhe OpenAI janë ndër kompanitë që favorizojnë kufizimin e teknologjisë në një numër të vogël firmash, në mënyrë që rregullatorët të mund të krijojnë lidhje me novatorët e Inteligjencës Artificiale.

“Një qasje e bazuar në licencim është rruga e duhur për të ecur përpara” – tha për POLITICO, Natasha Crampton, shefe përgjegjëse e inteligjencës artificiale të Microsoft. “Kjo lejon një ndërveprim të ngushtë midis zhvilluesit të teknologjisë dhe rregullatorit për të vlerësuar realisht rreziqet”.

Kritikët e dominimit të Silicon Valley argumentojnë se Big Tech ka një interes të veçantë në mbylljen e konkurrencës. Sipas avokatit të burimeve të hapura Mark Surman, drejtor ekzekutiv i Fondacionit Mozilla, kompanitë më të mëdha të teknologjisë në botë duan të kapin industrinë e re të inteligjencës artificiale për vete dhe të bllokojnë rivalët e rinj.

Gjatë vjeshtës, Surman vizitoi kryeqytetet perëndimore për të nxitur zyrtarët e lartë të SHBA-së, BE-së dhe Mbretërisë së Bashkuar që të mos kufizojnë se kush mund të zhvillojë modele të gjeneratës së ardhshme të Inteligjencës Artificiale. Ndryshe nga gjigantët e tjerë të Silicon Valley, Meta i Zuckerberg ka mbajtur anën e njerëzve si Surman që duan ta mbajnë teknologjinë të hapur për të gjithë, një pikë që ai e përforcoi në përballjen e tij me Harris mbi armët biologjike në shtator.

Qasja e hapur po fiton miq në pjesë të fuqishme të Uashingtonit, megjithëse zyrtarët amerikanë mbeten të ndarë. Në Bruksel, politikëbërësit ranë dakord të lironin pothuajse të gjithë AI nga mbikëqyrja e ashpër – për sa kohë që teknologjia nuk përdoret në praktika të paligjshme, siç është identifikimi në masë i fytyrës. Sidoqoftë, në Mbretërinë e Bashkuar, zyrtarët priren drejt kufizimit të AI në një pjesë të vogël të vendeve.

“Nëse e lëmë AI në duart e disave, nuk ka sy të mjaftueshëm atje për të shqyrtuar se çfarë bëjnë ata me të”, – tha Surman.

E ardhmja është këtu

Nëse viti 2023 ishte viti që lobimi i AI shpërtheu në debatin kryesor politik, 2024 do të vendosë se kush fiton.

Datat kryesore të vendimeve të mëdha po afrohen me shpejtësi. Deri në verë, pjesë të Aktit të AI të Evropës do të hyjnë në fuqi. Urdhri ekzekutiv rival i Shtëpisë së Bardhë për AI tashmë po ndryshon mënyrën se si agjencitë federale e trajtojnë teknologjinë. Më shumë reforma në Uashington priten deri në fund të vitit.

Vende të tjera si Britania e Madhe, Japonia dhe Kanadaja – si dhe Kina – po bëjnë planet e tyre, të cilat përfshijnë mbikëqyrje më të madhe të AI dhe përpjekje për t’i bërë vendet e tjera të miratojnë rregullat e tyre.

Ajo që është e qartë, sipas dhjetëra ekspertëve të AI që folën për POLITICO, është se në vitin 2024, dëshira e publikut për veprim politik nuk ka gjasa të zhduket. Ndikimi i inteligjencës artificiale, veçanërisht në një vit zgjedhjesh masive nga SHBA-ja në BE-ja, nga Filipinet e deri në Indi është gjithçka tjetër veçse e sigurt.

“Kjo çështja e humbjes së kontrollit të AI po merret papritmas seriozisht” – tha Max Tegmark, president i Institutit Future of Life, një organizatë jofitimprurëse që mbron idenë e një kontrolli më të madh ndaj AI. “Njerëzit po e kuptojnë se kjo nuk është më një gjë afatgjatë. Ajo po ndodh.”

/Marrë nga Politico.eu. Përshtati në shqip LAPSI.al

Mark Scott raportoi nga Londra, Brukseli, Parisi, Berlini dhe Uashingtoni; Clothilde Goujard nga Kioto, Japoni, Vincent Manancourt nga Londra, Gian Volpicelli nga Brukseli, Mohar Chatterjee dhe Brendan Bordelon nga Uashingtoni.



2 Comments

  1. GJITHCKA E BENI PER KONTROOL JU SHKERDHEFSHA KURVEN

    ARMET PER KONTROLL
    DREJTESINE PER KONTROOOL
    EKONOMINE PER KONTROLL

    JU SHKERDHEFSHA SEMUNDJEN QE KENI

Lini një Përgjigje

Adresa juaj email s’do të bëhet publike. Fushat e domosdoshme janë shënuar me një *