Știri
Știri din categoria Inteligență artificială
Apple caută să deschidă App Store pentru aplicații cu „agenți” AI, dar fără să slăbească filtrul de securitate și fără să-și submineze propriile reguli care interzic aplicațiilor să scrie cod și să creeze alte aplicații direct pe iPhone și iPad, potrivit AppleInsider.
Miza este una operațională și de control al riscului: procesul de evaluare (review) din App Store este construit ca să verifice aplicațiile înainte de publicare și să reducă expunerea utilizatorilor la pericole precum programe malițioase (malware). În cazul aplicațiilor care pot genera cod sau chiar alte aplicații după ce au trecut de review, Apple nu ar mai putea inspecta în avans ce se produce efectiv pe dispozitiv.
Apple ar avea discuții interne despre cum ar putea integra în App Store aplicații care folosesc „agenți” AI (sisteme capabile să execute sarcini mai complexe, în lanț), fără să încalce ghidurile existente. Publicația notează că Apple acceptă folosirea AI pentru a produce aplicații, însă are dificultăți când aplicațiile în sine folosesc AI într-un mod care poate încălca regulile magazinului.
Un punct sensibil este „vibe coding” – folosirea AI pentru a scrie cod și a crea programe. AppleInsider arată că Apple a blocat până acum aplicații cu capabilități de acest tip, deoarece ghidurile App Store interzic aplicațiilor să „codeze” și să producă alte aplicații direct pe iPhone și iPad.
Problema nu este doar teoretică. Dacă o aplicație de „agentic coding” trece de review și apoi generează cod care poate fi folosit pentru malware, acel rezultat nu ar fi fost inspectabil de Apple înainte, tocmai pentru că este creat ulterior, pe dispozitiv.
În plus, AppleInsider notează și un risc de venituri: dacă aceste aplicații pot crea „alte aplicații” pentru utilizator, ele ar putea reduce nevoia de a cumpăra aplicații separate din App Store, ceea ce ar pune presiune pe modelul economic al magazinului.
Compania ar încerca să „reconcilieze” problema prin proiectarea unui sistem care să oblige aplicațiile să respecte standarde de confidențialitate și securitate. O astfel de abordare ar limita însă aplicațiile mai elaborate, cu acces extins în sistem – AppleInsider dă ca exemplu că nu ar exista software de tip „OpenClaw”, cu „acoperire” masivă în întregul sistem al utilizatorului.
Pe scurt, Apple ar căuta o cale de mijloc: să permită monetizarea popularității acestor aplicații, dar să reducă riscul ca ele să afecteze ecosistemul.
WWDC din iunie este așteptată să includă „mult conținut” legat de AI, însă nu este clar dacă această direcție va include și schimbări pentru App Store.
Separat, AppleInsider menționează un alt efort: posibilitatea ca utilizatorii să aleagă modele AI terțe care să ruleze pe iPhone, ca alternativă la Apple Intelligence. În prezent, ChatGPT este deja integrat astfel încât unele funcții Apple Intelligence (inclusiv interogări Siri) să poată rula prin el, iar zvonurile indică suport pentru mai multe modele în generația „27” a sistemelor de operare Apple.
Diferența față de dilema App Store: modelele care ar primi acces mai profund în iOS și macOS ar urma să fie aprobate de Apple și supuse unei verificări mai stricte, iar acestea „nu vor avea capacitatea de a scrie cod”, potrivit materialului.
Recomandate
GPT‑6 Astra a redus la jumătate timpul de cercetare și costurile de cod pentru Parallel , potrivit unui studiu de caz publicat de OpenAI , un semnal relevant pentru companiile care folosesc agenți AI în activități de documentare și analiză pe web, unde factura de calcul și timpul de livrare sunt constrângeri directe. Parallel, companie care dezvoltă infrastructură pentru agenți AI ce fac „muncă de cunoaștere” pe internet (de la ancorare web pentru agenți vocali până la cercetare pentru instituții financiare și clienți din zona juridică), spune că sarcinile sale de cercetare de durată necesitau, în mod obișnuit, modele mai mari și raționament extins, cu consum mai ridicat de timp și resurse. În acest context, compania afirmă că a observat o îmbunătățire majoră a timpului și costurilor odată cu GPT‑6 Astra. „Cu Astra, am demonstrat că poți obține aceeași cercetare de înaltă calitate mult, mult mai repede, cu mai puține apeluri de cercetare și mai puțini tokeni.” — Devin Gupta , Member of Technical Staff, Parallel Web Systems Test: raport de cercetare pe șase luni, de două ori mai rapid Într-un test descris de OpenAI, Parallel a cerut agentului să cerceteze șase statistici diferite despre piața muncii, pentru patru state, pe o perioadă de șase luni. Agentul a trebuit să caute pe mai multe site-uri, să colecteze informațiile și să compileze rezultatele într-un singur raport. Rezultatul raportat: GPT‑6 Astra a finalizat munca în jumătate din timpul modelelor anterioare și cu o reducere de aproximativ 50% a costului de cod, menținând aceeași calitate a cercetării. De ce contează: mai puțini pași, căutări mai țintite și lucru în paralel Parallel mai indică faptul că Astra a făcut căutări mai focalizate și a parcurs mai puțini pași până la un rezultat util, ceea ce reduce atât latența (timpul de așteptare), cât și consumul de resurse. „Astra a emis interogări de căutare mai țintite și s-a concentrat mai bine pe sarcina finală, încorporând cunoștințele sale despre lume comparativ cu modelele anterioare.” — Devin Gupta, Member of Technical Staff, Parallel Web Systems Un efect operațional important, potrivit companiei, este că eficiența crescută face mai practică împărțirea cercetării între mai mulți agenți: Astra poate delega sarcini specifice către sub-agenți, astfel încât munca să se desfășoare simultan, nu într-o singură secvență de căutări. În concluzie, Parallel susține că are acum o cale mai bună de la o întrebare complexă la un răspuns documentat, cu timp mai mic de așteptare, costuri mai reduse și capacitate mai mare de a aborda sarcini de cercetare solicitante la scară. (Compania este prezentată ca Parallel .) [...]
Donald Trump pregătește o nouă poziție de coordonare a politicilor AI la nivel federal , urmând să-l desemneze pe Jay Clayton drept consilier principal pe probleme de inteligență artificială, fără ca rolul să fie separat de actuala conducere a comunității de informații, potrivit Agerpres , care citează Reuters. Clayton este în prezent director al informațiilor naționale și coordonează deja cele 18 agenții de informații ale SUA. Conform aceleiași surse, el ar urma să-și păstreze acest rol, ceea ce ar concentra coordonarea deciziilor legate de AI într-o zonă cu acces direct la infrastructura și prioritățile de securitate națională. Un oficial de la Casa Albă, întrebat de Reuters despre selectarea lui Clayton, a transmis că orice anunț privind personalul va fi făcut direct de președinte și că informațiile apărute până atunci sunt „speculații nefondate”. De ce contează: AI intră în logica de securitate și coordonare inter-agenții Mutarea vine în contextul în care Trump a vorbit anterior despre un „țar al AI”, adică un consilier care să supervizeze deciziile privind inteligența artificială la nivelul întregii administrații. Potrivit Agerpres, decizia de a numi un nou coordonator apare după avertismente ale cercetătorilor, care au semnalat că unii dezvoltatori consideră că tehnologia ar putea duce la dispariția umanității în decurs de un deceniu. Ce a mai anunțat Trump și ce rămâne neclar Luna trecută, Trump a spus că intenționează: să numească un nou „țar al AI”; să creeze o „forță dedicată AI”. Nu au fost oferite detalii despre aceste inițiative și nici despre modul în care ar urma să fie implementate. Context: nu este prima încercare de „țar al AI” Ar fi a doua oară când Trump numește un consilier pentru supervizarea deciziilor legate de AI în administrație. Investitorul David Sacks a deținut acest rol la începutul celui de-al doilea mandat al lui Trump, înainte de a părăsi Casa Albă. Sacks continuă să-l consilieze pe președinte pe teme de inteligență artificială și a participat marți la o întâlnire cu Trump și directori din industrie. Informația despre numirea unui „țar al AI” a fost relatată inițial de CBS, mai notează Reuters. [...]
Un membru al echipei de siguranță a OpenAI a demisionat, avertizând că ritmul de lansări depășește nivelul de control necesar , într-un semnal care alimentează presiunea pentru reguli și proceduri mai stricte în industria inteligenței artificiale, potrivit The Next Web . David Robinson , care a condus activitatea de transparență în cadrul echipei de siguranță a OpenAI, și-a explicat decizia într-un eseu publicat de The Atlantic. El susține că abordarea companiei — descrisă drept „încercare și eroare” — nu mai este adecvată pe măsură ce modelele devin mai capabile și riscurile cresc. Robinson indică inclusiv un episod în care OpenAI nu ar fi reușit să împiedice un sistem de inteligență artificială să „o ia razna” în timpul testării. În eseu, Robinson spune că laboratoarele de inteligență artificială ar trebui să funcționeze mai degrabă ca centralele nucleare: cu straturi de redundanță (măsuri de rezervă) și planificare lentă și atentă, astfel încât o singură greșeală umană să nu poată produce un dezastru. „Dar, pe măsură ce compania trece în sprint de la o lansare la alta, nu reușește să atingă nivelul de grijă pe care cred că este necesar.” Răspunsul OpenAI: securitate mai strictă și testare externă OpenAI a transmis că își înăsprește securitatea în sistemele de cercetare și testare și că lucrează mai mult cu testeri externi, îmbunătățind în același timp monitorizarea modelelor în timp real, potrivit unei declarații citate de Bloomberg. Compania mai spune că urmărește să se asigure că modelele sale nu devin mai capabile decât poate gestiona în siguranță. Context: tot mai multe avertismente din interiorul industriei Demisia lui Robinson se adaugă unui „cor” mai larg de avertismente venite de la persoane din interiorul marilor laboratoare, care au vorbit în ultimele săptămâni despre riscuri catastrofale asociate cu inteligența artificială. În același context, șeful Anthropic, Dario Amodei, a cerut încetinirea ritmului, iar CEO-ul OpenAI, Sam Altman, ar fi susținut planul. Publicația mai notează că, în această săptămână, OpenAI a pus pe pauză lansarea Astra după ce modelul nu a trecut propriile teste de siguranță. [...]
Google își înăsprește regulile de clasare, vizând direct site-urile care folosesc autori inventați și fotografii generate de AI , o practică asociată cu „fabricarea” credibilității pentru a împinge conținut de slabă calitate în Search și Google News , potrivit Futurism . Schimbarea vine după o investigație a publicației despre Brown Brothers Media , o companie care ar fi atras zeci de milioane de vizualizări lunar cumpărând site-uri de știri în dificultate și transformându-le în „mori” de conținut alimentate de inteligență artificială. Modelul descris: inventarea de jurnaliști și „experți”, cu istorii personale și acreditări false, folosiți ca semnături pentru mii de articole optimizate pentru motoare de căutare (SEO). Materialele erau adesea plagiate, bazate pe experiențe inventate sau atât de neglijente încât nu ofereau valoare cititorilor, susține Futurism. Ce a schimbat Google în ghiduri și de ce contează Google a actualizat ghidurile pentru „conținut util, de încredere, orientat către oameni” și a introdus explicit interdicția de a folosi informații înșelătoare despre autor. Înainte, documentația încuraja includerea de informații corecte despre autor (byline), ca semnal de aliniere la E-E-A-T (experiență, expertiză, autoritate și încredere). Acum, compania adaugă un paragraf nou, cu formulare mai dură, care califică drept „înșelăciune” fabricarea profilurilor de creatori. „Totuși, evitați folosirea informațiilor înșelătoare despre autor. Fabricarea profilurilor creatorilor (de exemplu, folosind fotografii generate de AI, nume inventate sau acreditări false pentru a face conținutul să pară ca și cum ar fi fost scris de experți umani) este o formă de înșelăciune. Orice formă de înșelăciune face o pagină nedemnă de încredere atât pentru utilizatori, cât și pentru sistemele noastre automate de calitate și este un semnal al unei pagini de calitate scăzută.” Implicația operațională este directă: site-urile care se bazează pe astfel de artificii riscă să nu mai fie „prioritizate” de Google, adică să piardă vizibilitate în rezultate și, implicit, trafic. Context: presiune pe „fabricile” de conținut, dar efect incert pentru presă Futurism notează că, potrivit datelor pe care le-a analizat, o parte importantă din audiența operațiunii descrise ar fi venit din Google. După publicarea investigației, Google ar fi acționat pentru a reduce prezența site-urilor Brown Brothers pe platforme precum Search și Google News, iar ulterior compania ar fi oprit brusc publicarea. Actualizarea ghidurilor apare și pe fondul altor cazuri similare: în Canada, o publicație a fost pusă în dificultate după ce „reporterii” inexistenți au început să afișeze mesaje de eroare, iar un alt caz a implicat plagiat sub numele unui jurnalist indigen inventat. Scheme asemănătoare au fost documentate și în Florida și Rhode Island. Totuși, aceeași sursă avertizează că nu este sigur că această „crackdown” pe semnături false va ajuta semnificativ ecosistemul media, în condițiile în care Google folosește tot mai mult inteligența artificială și promovează rezumate generate automat, care pot reduce traficul către reportajele originale. [...]
Amazon Web Services împinge „modelele decizionale” în producție cu un model open-source, mai ieftin decât un LLM complet , într-un moment în care dezvoltatorii caută tot mai mult „inteligență” potrivită pentru automatizare, nu pentru conversație, potrivit TechCrunch . AWS a lansat Strands Decider 2B , un model inspirat de Jev (TypeSafe), gândit să aleagă rapid între opțiuni prestabilite și să ofere un scor de încredere pentru decizia luată. Modelul, prezentat ca „high-speed” și „low-cost”, este complet open-source, disponibil imediat și suficient de mic pentru a rula local. Lansarea vine în aceeași săptămână în care OpenAI a anunțat o ofertă similară, semn că această categorie de modele — orientate pe decizie, nu pe generare de text — se aglomerează rapid. De ce contează pentru companii: cost și latență mai mici în fluxuri „agentice” Miza operațională este reducerea dependenței de modele mari de limbaj (LLM-uri) în pași de lucru unde nu e nevoie de capabilități „frontier” (cele mai avansate, dar și cele mai scumpe). Marc Brooker, „distinguished engineer” la Amazon, spune că nevoia a apărut în discuții cu clienți AWS, ale căror fluxuri de lucru cu agenți (agentic workflows) nu necesitau permanent un LLM complet. În formularea lui Brooker, modelul funcționează ca un „decider” pentru un pas dintr-un workflow: alege „următorul lucru de făcut” în funcție de starea curentă, într-un domeniu închis de răspunsuri. El susține că scorurile de încredere și setul limitat de opțiuni pot face acest pas mai „fiabil”, cu latență mai mică și, potențial, costuri mai reduse. „Ce mi-a stârnit inițial interesul la această clasă de modele a fost că sunt un decident perfect pentru un pas dintr-un flux de lucru — «care este următorul lucru pe care trebuie să-l fac aici, pe baza locului în care sunt?»” Ce este Strands Decider și cum diferă de un LLM Strands Decider este construit pe „torso”-ul unui LLM — în acest caz Qwen3.5-2B — însă, în loc să genereze text, livrează alegeri „calibrate” între opțiuni prestabilite. Cu alte cuvinte, este optimizat pentru selecție și evaluarea încrederii în selecție, nu pentru redactare sau dialog. Proiectul a pornit ca o încercare personală a lui Brooker, după ce a văzut Jev și a încercat să-și construiască propria variantă. Potrivit articolului, prototipul a ajuns pentru scurt timp pe primul loc în clasamentul Jevbench pentru modele din categoria sa de dimensiune, după care inginerii Amazon l-au „curățat” și l-au publicat prin Strands Labs — o organizație care dezvoltă instrumente și protocoale pentru implementarea agenților AI. Piața se aglomerează, dar avantajul nu e garantat TechCrunch notează că zeci de modele similare au apărut după ce TypeSafe a lansat ideea Jev, ceea ce arată interesul, dar ridică și întrebarea cât de valoroase vor fi în practică. Brooker indică drept provocare găsirea unui echilibru: optimizarea deciziilor rapide fără a compromite „inteligența” modelului (precizia și calibrarea), dar și fără a-i eroda capacitatea generală (cunoaștere, înțelegerea limbilor). „Există un echilibru foarte atent de găsit: vrei să-i împingi performanța pe acuratețe și calibrare pe aceste sarcini, fără să-i degradezi performanța în înțelegerea diferitelor limbi, în cunoașterea pe care o are — ceea ce îl face generalist, interesant și util.” În același timp, Brooker nu se așteaptă ca „frontier labs” să domine neapărat acest spațiu, argumentând că, pentru piețe mai mici, costul de a construi „ceva interesant” poate fi de ordinul sutelor sau miilor de dolari. Din perspectiva TypeSafe, CEO-ul și fondatorul Diogo Almeida spune că există percepția unui „gold rush”, dar că mulți ar subestima dificultatea de a face modelele cu adevărat inteligente și, deocamdată, nu vede competiție reală care să se contureze. „Înțeleg că oamenii cred că e o goană după aur, dar s-ar putea să subestimeze dificultatea de a face modelele cu adevărat inteligente.” [...]
Viteza cu care Claude a identificat un posibil sistem enzimatic nou ridică miza pentru AI în biologie , dar validarea științifică și disputa privind prioritatea descoperirii rămân deschise, potrivit CNET . Anthropic susține că modelul său Claude a găsit, în circa 21 de ore, un sistem enzimatic „asemănător CRISPR”, după ce ar fi analizat aproximativ 200.000 de mostre de transcriptază inversă (o enzimă care „scrie” ADN pornind de la ARN). Compania spune că a folosit 950 de „agenți” AI (instanțe care rulează în paralel sarcini de căutare/analiză) pentru a scana baze de date publice, iar implicarea umană s-a limitat la formularea solicitărilor (prompts) și la munca de laborator necesară confirmării. De ce contează: AI poate scurta drastic faza de „căutare”, nu și pe cea de înțelegere Miza practică nu este doar dacă s-a găsit ceva „nou”, ci dacă AI poate reduce timpul și costul etapei inițiale de identificare a unor tipare biologice promițătoare. CNET notează că experții consultați sunt, în general, de acord că viteza raportată de Anthropic este impresionantă, mai ales într-un domeniu în care „acul în carul cu fân” e regula. Într-o declarație citată de publicație, Feng Zhang (MIT și Broad Institute) numește rezultatul „un exemplu interesant” despre cum agenții AI pot contribui la descoperiri biologice și spune că identificarea unor „șiruri repetate” asociate cu transcriptaze inverse „merită investigații suplimentare”. Ce ar fi găsit Anthropic, pe scurt Potrivit articolului, Claude ar fi observat o configurație genetică ce amintește de modul în care este organizat CRISPR: o transcriptază inversă poziționată lângă o secvență lungă de fragmente de ADN repetate, plus o proteină „partener”. Un reprezentant al laboratorului Profluent (care a dezvoltat OpenCRISPR-1) explică, într-un e-mail către CNET, că transcriptaza inversă era cunoscută, însă „șirul” de lângă ea și proteina asociată sunt partea pe care Anthropic o prezintă drept noutate. Sistemul ar fi fost găsit într-un bacteriofag (virus care infectează bacterii), din categoria „jumbo phages” (fagi cu genom mare). Anthropic a numit acest sistem „array-associated reverse transcriptases” (ART). Limitarea majoră: de la tipar la funcție pot trece ani CNET subliniază că, istoric, drumul de la identificarea unui sistem biologic la înțelegerea mecanismului și apoi la aplicații medicale poate dura mult. Bonnie Berger, care conduce un grup de calcul și biologie la MIT (CSAIL), spune că oamenii de știință găsesc relativ frecvent tipare interesante în secvențe, însă blocajul este „înțelegerea scopului și funcției” prin analize mai profunde și experimente țintite. Anthropic recunoaște, într-o declarație citată, că munca de clarificare a funcției ART este în desfășurare și că a ales să publice devreme atât pentru a arăta capabilitățile lui Claude, cât și pentru a oferi comunității o imagine asupra direcției de lucru. Controversa: a fost „nou” sau doar „nou pentru Anthropic”? O a doua problemă ține de prioritatea descoperirii. Mario Rodríguez Mestre, biolog computațional la Universitatea din Copenhaga, a declarat pentru The New York Times (citat de CNET) că echipa lui ar fi găsit același sistem în 2022 și indică un brevet în care apare ca co-inventator. Anthropic afirmă că nu știa de această cercetare. Mai mult, Mestre și echipa sa spun că nu pot exclude ca modelul să fi ajuns la rezultat fiindcă ar fi fost expus, în timp, la cercetări nepublicate încărcate în Claude pentru asistență, ceea ce ar fi putut funcționa ca un „far” către acel sistem. Ce urmează Din relatarea CNET rezultă două direcții care vor decide dacă episodul devine un reper sau rămâne un caz discutabil: validarea funcțională : ce face, concret, sistemul ART și dacă are potențial aplicabil (în medicină sau biotehnologie); clarificarea priorității și a trasabilității datelor : dacă sistemul era deja documentat și în ce măsură modelele AI pot „regăsi” rezultate pe baza unor date încărcate anterior, inclusiv nepublicate. Până atunci, articolul indică un consens limitat: AI pare să fi demonstrat un avantaj real la viteză în explorarea bazelor de date biologice, dar asta nu echivalează automat cu o descoperire „de mărimea CRISPR” și nici nu închide discuția despre originalitate. [...]
