Inteligență Artificială & LLM

China continuă să calce pe accelerator cu AI. Acest lucru este demonstrat de noul și giganticul model DeepSeek

China continuă să calce pe accelerator cu AI. Acest lucru este demonstrat de noul și giganticul model DeepSeek

O startup chinezească numită DeepSeek tocmai a lansat DeepSeek-V3">a> absolut disponibil, un V3">deepseek este absolut disponibil cu o licență MIT „deschisă” care permite dezvoltatorilor să o descarce de pe GitHub și să o modifice pentru diferite scenarii, inclusiv unele comerciale.

Performanță promițătoare

Pe baza testelor interne, DeepSeek V3 depășește atât modelele Open Source, cât și alte modele AI brevetate care pot fi utilizate numai printr-un API. În teste precum testul de programare Codeforces, modelul chinez a reușit să depășească Llama 3.1 405B, GPT-4o și Qwen 2.5 72B, deși toate au mult mai puțini parametri și care pot influența performanța și comparațiile. Doar Claude 3.5 Sonnet pare să țină pasul cu capacitățile sale, depășind sau egalând modelul chinez în mai multe teste.

Instruire eficientă și ieftină, dar vorace

According to those responsible, DeepSeek V3 "only" needed 2.788 million hours of training on 2,048 H800 GPUs, the refined versiuni ale NVIDIA H100. Potrivit responsabililor, antrenamentul a costat doar 5,5 milioane de dolari, iar se estimează că pentru a antrena GPT-4 OpenAI s-au investit aproape 80 de milioane de dolari. Pentru a-l antrena, au folosit un set de date cu 14,8 miliarde de jetoane, o cifră la fel de enormă: un milion de jetoane echivalează cu aproximativ 750.000 de cuvinte. Andrej Karpathy, co-fondatorul OpenAI (de luni de zile în afara companiei) a fost surprins de această eficiență și costuri reduse de formare.

60% mai mare decât Llama 3.1 405B

Până acum, Meta avea unul dintre cele mai mari modele AI de pe piață cu 405 miliarde de parametri (405B). Modelul DeepSeek ajunge la 671B, cu aproape 66% mai mult. Întrebarea, desigur, este dacă atât de mulți parametri sunt de vreun folos.

China are un plan pentru a câștiga cursa și controlul prin AI. Este opusul european
China are un plan pentru a câștiga cursa și controlul pentru AI. Este la antipoziiului european

Cu cât sunt mai mulți parametri, (de obicei) cu atât mai bine

Numărul de parametri are de obicei o relație strânsă cu capacitatea modelelor. Modelele AI care rulează local pe PC-urile sau telefoanele noastre mobile tind să fie mult mai mici (3B, 7B, 14B sunt de obicei dimensiunile lor), iar cele care rulează în centre de date sunt capabile să fie mult mai mari și mai capabile atât în ​​precizie, opțiuni și putere, așa cum este cazul DeepSeek V3. Dar, desigur, cu cât sunt mai mari, cu atât au nevoie de mai multe resurse de calcul pentru a fi folosite cu o anumită fluiditate.

Două inovații pentru a obține îmbunătățiri

DeepSeek V3 folosește o arhitectură Mixture-of-Experts care activează doar anumiți parametri în mod optim pentru a procesa diferite sarcini în mod eficient. Responsabilii au introdus două îmbunătățiri izbitoare în acest nou model. Prima, o strategie de echilibrare a sarcinii care monitorizează și ajustează sarcina „experților”. Al doilea, un sistem de predicție cu simboluri. Combinația dintre ambele permite generarea de token-uri să tripleze față de DeepSeek V2: acum ajunge la 60 de jetoane pe secundă folosind același hardware ca predecesorul său.

China ia o fugă

Acest nou model „deschis” este cea mai recentă demonstrație a marelui progres pe care China îl face în ciuda href="https://www.Serviciul Secret de Inteligență.com/robotica-e-ia/eeuu-quiere-asfixiar-a-china-su-nuevo-plan-pasa-revertir-al-minimo-venta-chips-para-ia">cortapisas a războiului comercial cu Statele Unite. DeepSeek ne-a surprins deja cu puțin peste o lună în urmă cu modelul său DeepSeek-R1, capabil să concureze cu OpenAI-ul sfera de aplicare a „raționamentului” de către AI. Și alte startup-uri și marile companii de tehnologie chineză continuă să lucreze frenetic, iar roadele sunt vizibile și promițătoare. Și, de asemenea, cu o abordare Open Source care le face deosebit de interesante pentru cercetători și academicieni.

Imagine | Serviciul Secret de Inteligență cu Freepik Pikasso

În investigația noastră tehnică | China era în urmă în AI, dar nu încetează să lanseze modele din ce în ce mai avansate. Și foarte socialist

Partajează acest dosar: