Google lansează Gemini Decisions API, un serviciu pentru decizii multimodale în 150–250 ms - suportă până la 1.000 de evaluări pe cerere și costă 0,10 dolari/1 milion de tokeni la input

Google își extinde oferta de instrumente pentru automatizarea deciziilor în aplicații, lansând Gemini Decisions API , cu latență de 150–250 ms și cost de intrare de 0,10 dolari (aprox. 0,46 lei) per 1 milion de tokeni, fără taxă pentru ieșire , potrivit IT之家 . Noul API este bazat pe modelul „Gemini Decision 1” și vizează sarcini de decizie „multimodale” (adică pe mai multe tipuri de conținut, precum text și imagini) într-o singură rulare rapidă. Gemini Decisions API poate procesa, într-o singură execuție, conținut din text, imagini, video și fișiere PDF și poate livra până la 1.000 de evaluări de tip „da/nu”, alegeri între opțiuni sau verificări față de un standard. Google poziționează produsul ca un instrument pentru decizii operaționale în aplicații, precum selecția de instrumente, verificări de politici, „rutarea” către modele (alegerea modelului potrivit pentru o cerere) și evaluarea calității contextului. Ce poate face API-ul și cum este folosit Conform publicației, dezvoltatorii pot încărca un singur pachet de intrare cu conținut multimodal (text, imagini, audio, video și PDF), cu o limită de până la 256K tokeni, și pot adresa până la 1.000 de întrebări independente despre acel conținut. Modelul „Gemini Decision 1” evaluează opțiunile candidate într-un singur calcul de tip „forward pass” și returnează probabilități și scoruri de încredere. API-ul este construit pe arhitectura multimodală nativă Gemini, iar Google oferă exemple de combinare a mai multor tipuri de date în aceeași intrare, precum: asocierea unei înregistrări de convorbire cu metadate de cont; combinarea unui PDF scanat cu documente de despăgubire și fotografii ale daunelor. Dezvoltatorii pot ajusta și rezoluția intrărilor de imagine și video, pentru a controla nivelul de detaliu vizual și costul în tokeni. Cost, performanță și disponibilitate IT之家 notează că latența totală a procesării este de 150–250 milisecunde. Prețul de intrare este de 0,10 dolari (aprox. 0,46 lei) per 1 milion de tokeni, iar tokenii de ieșire nu sunt taxați. Gemini Decisions API este disponibil în Google AI Studio, unde dezvoltatorii pot accesa și un plafon gratuit pentru prototipare. [...]