[Rossi D]

Meta příští týden vypustí největší lamu



 Podle zasvěcené zprávy se společnost Meta Platforms chystá 23. července vydat svůj největší open-source jazykový model Llama3. Nový model se může pochlubit úctyhodnými 405 miliardami parametrů a je multimodální, dokáže zpracovávat obrázky i text a umožňuje generovat nové obrázky z kombinovaných vstupů. Tento vývoj představuje významný pokrok oproti předchozím modelům Llama, které se omezovaly na generování textu.
 
Navzdory původním zvěstem, že váhy modelu nebudou zpřístupněny, se společnost Meta rozhodla uvolnit model včetně jeho vah jako otevřený zdrojový kód. Toto rozhodnutí následovalo po údajných interních debatách, zejména po námitkách spoluzakladatele Facebooku Dustina Moskovitze. Zveřejnění vah vyvolalo diskuse o finančních a bezpečnostních obavách, protože trénink modelu je nákladný a poskytování vah činí model přístupnějším, což vyvolává potenciální bezpečnostní problémy.
 
Váhy mají v modelech umělé inteligence zásadní význam, protože optimalizují předpovědi, takže jsou nezbytné pro reprodukovatelnost, praktické použití, transparentnost a srovnatelnost. Bez vah mají vývojáři k dispozici pouze architekturu modelu, která je v podstatě "prázdnou skořápkou". Trénování modelu za účelem získání těchto vah je náročné na zdroje, ale přístup k předtrénovaným vahám umožňuje vývojářům využívat a vylepšovat pokročilé modely umělé inteligence bez nutnosti značných tréninkových kapacit, což podtrhuje jejich význam v komunitě open-source AI.