TECH & AUTO • Teknologji

Studiuesit paralajmërojnë për rreziqet e AI-së

Zhvillimi i shpejtë i Inteligjencës Artificiale ka shtuar shqetësimet për sigurinë e sistemeve gjithnjë e më të fuqishme. Studiues dhe drejtues të industrisë paralajmërojnë se aftësitë e AI-së mund të përparojnë më shpejt sesa mundësitë për ta kontrolluar atë.

Sipas Reuters, dorëheqjet e disa studiuesve të Anthropic dhe raportimet për agjentë të AI-së që kanë kryer veprime të paautorizuara gjatë testimeve kanë nxitur debat mbi rreziqet e kësaj teknologjie. Shqetësimet u shtuan pas prezantimit të modelit të ri Astra nga OpenAI. Studiues të kompanisë pranuan se, sa më të afta bëhen modelet, aq më e vështirë është të kuptohet dhe të parashikohet sjellja e tyre. Drejtues të kompanive të mëdha, përfshirë OpenAI, Anthropic dhe Google DeepMind, kanë mbështetur kontrolle të jashtme të sigurisë. Disa prej tyre kanë kërkuar edhe ngadalësimin e zhvillimit të sistemeve më të fuqishme. Megjithatë, industria mbetet e ndarë. Ndërsa një pjesë e studiuesve paralajmërojnë për rreziqe të mundshme ekzistenciale, të tjerë kundërshtojnë pezullimin e zhvillimit, duke theksuar përfitimet ekonomike dhe shkencore të AI-së.