Шефот на OpenAI: Светот со право стравува од вештачката интелигенција

Сем Алтман, првиот човек на OpenAI, смета дека јавноста треба да ѝ верува на неговата компанија – како и на другите слични на неа – дека ќе ја развиваат вештачката интелигенција одговорно, и покрај сè поголемата загриженост во врска со поврзаните ризици.

„Светот треба да ни верува дека ќе постапиме правилно, бидејќи тоа е вистинската работа што треба да се направи и бидејќи ја чувствуваме тежината на оваа одговорност“, изјави вчера Алтман на конференција во Сан Франциско. Во исто време, тој призна дека стравовите на луѓето се оправдани, со оглед на тоа колку брзо се развиваат можностите на алатките за вештачка интелигенција. 

„Веќе не ни е потребна толку фантазија како порано за да замислиме како работите би можеле да тргнат наопаку. Мислам дека светот со право стравува од тоа“, рече Алтман, според BBC.

Алтман говореше на годишната конференција на Salesforce; ова беше негово прво јавно појавување откако изјавата на еден истражувач, кој ја напушти компанијата за вештачка интелигенција Anthropic, привлече големо внимание минатата недела. Истражувачот тврдеше дека вештачката интелигенција, доколку остане без надзор, би можела да го уништи човештвото до крајот на деценијата.

Неколку други раководители и експерти за вештачка интелигенција се согласија со оваа проценка, но не ја разјаснија основата за таков заклучок, ниту пак како точно би можело да се одвива такво сценарио. Реакциите на овие тврдења доведоа до засилен надзор врз развојот на вештачката интелигенција во последните денови.

Како резултат на тоа, извршниот директор на Anthropic, Дарио Амодеи, повика на забавување на развојот и побара од владите да ја регулираат индустријата. Неговата изјава беше поддржана од Алтман, ко-основачот на Google DeepMind, Демис Хасабис, и Илон Маск. Сепак, до вторникот, многу лидери во индустријата почнаа да се залагаат за саморегулација наместо за владина интервенција.

Алтман изјави дека верува оти компаниите за вештачка интелигенција се способни самите да се регулираат. 

„Ќе успееме во ова. Целосно сум уверен во способноста на нашата компанија – и на целата индустрија – да го спроведеме ова безбедно“, рече тој. Тој додаде дека е сигурен оти „усогласеноста и безбедноста секогаш ќе имаат предност пред самите можности на системите“, и доколку не можат да го обезбедат тоа, тие ќе „забават или целосно ќе запрат“. 

По изјавите на Алтман, извршниот директор на Meta, Марк Закерберг, напиша на платформата X дека секоја лабораторија за вештачка интелигенција има и способност и мотивација да преземе независни чекори кон создавање безбедни алатки. 

„Секоја лабораторија што нема да се фокусира на усогласување на системите со човечките вредности ќе заостане“, напиша Закерберг.

„Лабораториите сносат значителна одговорност доколку нивните модели предизвикаат штета, па затоа имаат силен поттик да ја спречат таа штета.“ 

На истата конференција, извршниот директор на Nvidia, Џенсен Хуанг, изјави дека компаниите за вештачка интелигенција треба самите да одлучат кога ќе ги пуштат во употреба новите технологии. 

„Не ни се потребни нови закони или регулативи“, изјави Хуанг, додавајќи дека изборот помеѓу брзината на иновациите и безбедноста не треба да претставува лажна дилема. Nvidia моментално е највредната компанија во светот, а нејзиниот профит нагло порасна поради големата побарувачка за нејзините чипови наменети за вештачка интелигенција.

Некои учесници во индустријата тврдат дека стравовите поврзани со вештачката интелигенција се преувеличени и служат само за да се привлече медиумско внимание кон секторот. Сепак, идејата раководителите на компаниите за вештачка интелигенција целосно сами да се справуваат со саморегулацијата, за некои претставува лош пристап. 

Џек Кларк, директор и коосновач на компанијата Anthropic, во понеделникот за BBC изјави дека оставањето на индустријата за вештачка интелигенција без регулација претставува „коцкање со огромни ризици“.

Патрик Хилман, главен оперативен директор на Logical Intelligence, во вторникот истакна колку малку доверба има јавноста во технолошките компании. 

„Единствената институција во која Американците можеби имаат помала доверба отколку во Вашингтон денес, е Силициумската долина. Сум живеел и работел во двете средини и ве уверувам дека и двете го заслужиле тој скептицизам“, рече Хилман. „Ако верувате дека она што го градите е опасно, покажете ни од што сте подготвени да се откажете“, додаде тој.

Лидерите на OpenAI и Anthropic потврдија дека неодамна почнале да работат на договор за безбедност што би важел за целата индустрија. На конференцијата, Амодеи накратко изјави дека Anthropic сега води „дијалог со остатокот од индустријата“ во врска со преземањето обврски за повисоки безбедносни стандарди. Тој исто така истакна дека едно од најголемите изненадувања не бил самиот технолошки напредок, туку поширокото влијание на технологијата.

„Не сфативме дека тоа ќе доведе до толку брз раст на компаниите и дека тие толку брзо ќе станат централни за толку многу работи“, рече Амодеи. 

Крис Лехејн од OpenAI минатата недела изјави дека компанијата соработува со други лаборатории – вклучувајќи ги Anthropic и Google DeepMind – за „унапредување на стандардите за напредна вештачка интелигенција“. Целта, според него, е да се изгради доброволна рамка, без оглед на тоа дали таа ќе има владина поддршка или не. 

„Влогот е преголем за да дозволиме потрагата по совршенство да биде пречка за постигнување на она што е добро“, напиша Лехејн.