[Rossi D]

OpenAI došly GPU, říká Sam Altman - zavedení GPT-4.5 se odkládá kvůli nedostatku výpočetního výkonu


 

1. Vydání GPT-4.5 a dostupnost
   • Společnost OpenAI spustila GPT-4.5, momentálně ale pouze pro předplatitele Pro (200 USD měsíčně).
     
   • Generální ředitel Sam Altman na platformě X uvedl, že zpočátku chybí dostatečné množství GPU, ale již příští týden přidají desítky tisíc grafických procesorů.
     
   • Po doplnění výpočetního výkonu bude GPT-4.5 zpřístupněn i pro zákazníky s předplatným Plus (20 USD měsíčně).
     
2. Nedostatek GPU a plány OpenAI
   • OpenAI kvůli nedostatku GPU (a velkým nárokům na výpočetní výkon) pracuje na vlastním řešení AI čipů ve spolupráci s Broadcomem.
     
   • Dokud jejich vlastní čipy nebudou k dispozici, musí OpenAI spoléhat na Nvidii a další výrobce.
     
   • Nvidia se nachází v ideální pozici, protože její nejnovější GPU Blackwell jsou podle vyjádření firmy již vyprodané až do října.
     
3. Rozvoj AI infrastruktury
   • Společnosti a instituce (OpenAI, Microsoft, Elon Musk s projektem Colossus, atd.) plánují masivní rozšíření superpočítačů pro AI, což zvyšuje poptávku po GPU a datových centrech.
     
   • Jihokorejská vláda nedávno schválila výstavbu zařízení s výkonem 3 GW a další projekty zkoumají dokonce ukládání dat na Měsíci.
     
   • Satya Nadella (CEO Microsoft) uvedl, že rychle rostoucí nároky AI modelů přinutí k přebudování celých systémů AI.
     
4. Cena a vlastnosti GPT-4.5
   • GPT-4.5 je podle Altmana „velký a drahý model“:
     • 75 USD za milion vstupních tokenů,
       
     • 150 USD za milion výstupních tokenů.
       
   • Pro srovnání GPT-4o (openAI’s GPT-4 variant v článku) stojí jen 2,50 USD / milion vstupních tokenů a 10 USD / milion výstupních tokenů.
     
   • Altman dodává, že GPT-4.5 není „argumentační model“ zaměřený na překonávání benchmarků, ale má jiný druh inteligence a přináší podle něj „nový druh kouzla“.