PyTorch is een populair toolkit dat ontwikkelers en startups gebruiken om modellen voor kunstmatige intelligentiteit te bouwen, trainen en uitvoeren. Volgens sommige schattingen wordt dit gebruikt door 85% van alle applicaties gericht op KI.
Oorspronkelijk werd PyTorch ontwikkeld door Meta (toen nog Facebook) in 2016, lang voordat er enige aanwijzing bestond dat grote taalmodellen de wereld zouden veranderen.
wereld. Op dat moment waren Nvidia's GPU's al de standaardhardware voor onderzoek naar artificiële intelligententie, zodat veel functies van PyTorch specifiek zijn gebouwd om ermee te werken. In 2022 gaf Meta PyTorch over aan de Linux Foundation, een non-profitorganisatie die vele belangrijke open-sourceprojecten beheert. Google's versie, TorchTPU, stelt AI-toepassingen toe uit te voeren op Googles AI-chips, genaamd Tensor Processing Units (TPUs).
Het maakt het ook eenvoudig bestaande PyTorch-applicaties verplaatsen naar TPUs en dus naar Google Cloud. Ontwikkelaars kunnen dit doen met een eenvoudige configuratiewijziging zonder hun applicaties opnieuw te hoeven schrijven.
"De aankondiging volgde maandag toen het zijn eigen versie van PyTorch lanceerde: TorchNeuron. Met TorchNeuron kunnen AI-toepassingen worden overgezet naar Amazons in-house AI-chip Trainium en AWS zonder enige herschrijving. Amazon gaf ook toe dat ze nog verder gaan in hun poging de greep van Nvidia op PyTorch losser te maken. Ze dienen code in voor het hoofdproject van PyTorch die diverse functies koppelen uit aan chips van Nvidia, waardoor dit per standaard openstaat voor elk type hardware.
Google kan echter een stapje bovenop komen door verschillende manieren waarop het handelt. Het stelt namelijk vastrechtelijk contact met Meta, Hugging Face, Inferact (maker van vLLM) RadixArk (maker van SGLang)."
...en anderen om ervoor te zorgen dat de functies en codebibliotheken van TorchTPU goed werken samen met deze populaire ontwikkeltools voor kunstmatig intelligente toepassingen, net als het oorspronkelijke PyTorch. Bovendien heeft dit zoekgroot een speciale tool gelanceerd: TPU agent suite , om developers hun apps over te verschuiven naar Google's chips en cloud en foutjes onderweg recht te zetten.
Het vernieuwde zelfs zijn populair LiteRT-tool, die AI draait op telefoons, laptops en ingebouwde apparaten, zodat hij beter werkt met PyTorch-apps voor kunstmatige intelligentie. Niets hiervan betekent dat ontwikkelaars van applicaties voor kunstmatige intelligentie automatisch massaal Nvidia-hardware zullen verlaten alleen omdat ze nu makkelijk kunnen overstappen naar alternatieven.
chips en wolken. Maar Amazon en werken duidelijk samen aan het beëindigen van Nvidias voorsprong.
