Meta heeft het beste en grootste open source AI-model uitgebracht

Geschreven door

Luc

Gecontroleerd door

Jolien

Bijgewerkt op

24 juli 2024

[addtoany] ×

In april plaagde Meta dat het aan een primeur voor de AI-industrie werkte: een open-sourcemodel met prestaties die overeenkomen met de beste particuliere modellen van bedrijven als OpenAI.

Vandaag is dat model gearriveerd. Meta brengt Llama 3.1 uit, het grootste open-source AI-model ooit, waarvan het bedrijf beweert dat het op verschillende benchmarks beter presteert dan GPT-4o en Anthropic’s Claude 3.5 Sonnet. Het maakt ook de op Llama gebaseerde Meta AI-assistent beschikbaar in meer landen en talen, terwijl er ook een functie wordt toegevoegd die afbeeldingen kan genereren op basis van iemands specifieke gelijkenis. CEO Mark Zuckerberg voorspelt nu dat Meta AI eind dit jaar de meest gebruikte assistent zal zijn en ChatGPT zal overtreffen. Dat is nogal een behoorlijke belofte, die vorlgens ons niet zal uitkomen. 

State-of-the-art prestaties

Llama 3.1 is aanzienlijk complexer dan de kleinere Llama 3-modellen die een paar maanden geleden uitkwamen. De grootste versie heeft 405 miljard parameters en is getraind met meer dan 16.000 van Nvidia’s ultradure H100 GPU’s. Meta maakt de kosten voor de ontwikkeling van Llama 3.1 niet bekend, maar alleen al op basis van de kosten van de Nvidia-chips is het vrij eenvoudig om te raden dat het om honderden miljoenen dollars ging.

In een brief gepubliceerd op Meta’s bedrijfsblog stelt Zuckerberg dat open-source AI-modellen de propriëtaire modellen zullen inhalen aangezien ze zich al sneller verbeteren dan andere modellen op de markt. Deze verandering is vergelijkbaar met de groei en overname van Linux, die het open-source besturingssysteem werd dat de meeste telefoons, servers en gadgets vandaag aandrijft.

“Dit is een keerpunt in de sector waar de meeste ontwikkelaars voornamelijk open source gaan gebruiken”

Zuckerberg vergelijkt de investering van Meta in open-source AI met het eerdere Open Compute Project, dat volgens hem het bedrijf “miljarden” heeft bespaard door externe bedrijven zoals HP te laten helpen bij het verbeteren en standaardiseren van Meta’s datacenter ontwerpen terwijl het zijn eigen capaciteit aan het uitbouwen was. Vooruitkijkend verwacht hij dat dezelfde dynamiek zich zal voordoen bij AI. Hij schrijft: “Ik geloof dat de release van Llama 3.1 een keerpunt zal zijn in de industrie waar de meeste ontwikkelaars voornamelijk open source gaan gebruiken.”

Om Llama 3.1 de wereld in te helpen, werkt Meta samen met meer dan twintig bedrijven, waaronder Microsoft, Amazon, Google, Nvidia en Databricks, om ontwikkelaars te helpen hun eigen versies te implementeren. Meta beweert dat Llama 3.1 ongeveer de helft kost van OpenAI’s GPT-4o om in productie te draaien. Bedrijven kunnen het trainen op basis van hun eigen gegevens en dat zo naar hun eigen wens afstemmen.