Szef OpenAI Sam Altman przekonuje, że ograniczone zasoby pamięci RAM lepiej służą światu w centrach danych niż w prywatnych komputerach. W podcaście Cheeky Pint nazwał obecny podział „dość fatalnym”. Tymczasem niedobór pamięci już teraz przekłada się na wyższe ceny elektroniki.

Co dokładnie powiedział Altman

Pytany o problemy z łańcuchami dostaw, w tym trwający niedobór RAM-u, Altman odniósł się do popularnego poglądu. Wiele osób chce uruchamiać modele AI lokalnie i zakłada, że sprawę rozwiązują modele open source, które da się odpalić na własnym sprzęcie. Skoro tak, to ich zdaniem nie trzeba aż tylu zasobów w centrach danych.

Szef OpenAI widzi to inaczej. Według niego w warunkach ograniczonej podaży liczy się maksymalne wykorzystanie sprzętu, a to jest możliwe głównie w chmurze. Jak ujął to sam Altman:

• „Z perspektywy globalnego podziału zasobów to dość fatalne, że każdy trzyma w swoim komputerze kawałek ograniczonej puli DRAM, wykorzystywany przez pięć procent czasu”.

Dodał, że intuicja wielu ludzi podpowiada coś odwrotnego. W tej samej rozmowie komentował też wpływ sztucznej inteligencji na matematykę.

Skąd bierze się niedobór pamięci

Tło tej wypowiedzi jest dość prozaiczne. Samsung i SK Hynix, czyli jedni z największych producentów pamięci, mają długoterminowe umowy z operatorami usług chmurowych oraz z projektami takimi jak Stargate od OpenAI. Duża część światowej produkcji RAM-u na najbliższe lata jest już zarezerwowana. Miliardy, które firmy gotowe są wydać na układy pamięci, odbijają się na reszcie rynku. To one sprawiają, że laptopy, telefony i inna elektronika drożeją.

The Verge zauważa, że niezależnie od tego, czy Altman miał na myśli domowy komputer do gier, czy sprzęt dla programistów, skutek jest ten sam. Wśród przykładów padają Surface RTX Spark Dev Box i nowy MacBook Pro z ekranem dotykowym. Warto też pamiętać, że Altman nie jest neutralnym obserwatorem. Jego firma należy do graczy, których zakupowy apetyt ściska światową podaż pamięci.

Co to oznacza dla czytelnika w Polsce

Rynek pamięci jest globalny, więc problem nie zatrzymuje się na granicy. Sprzęt sprzedawany w Polsce i całej Unii Europejskiej pochodzi z tych samych fabryk i łańcuchów dostaw. Artykuł nie podaje, o ile konkretnie zdrożeją urządzenia w Europie, więc nie da się tego dokładnie przewidzieć. Można jednak zakładać, że wzrost kosztów pamięci wpłynie także na ceny w polskich sklepach.

W praktyce najbardziej odczują to osoby, które planują zakup nowego komputera, laptopa lub smartfona. Warto rozważyć kilka rzeczy:

• Dopasuj ilość pamięci do potrzeb. Nie każdy potrzebuje największej dostępnej konfiguracji.
• Porównuj ceny. W okresie niedoborów różnice między sklepami i modelami mogą być większe niż zwykle.
• Nie odkładaj zakupu w nieskończoność. Jeśli sprzęt jest potrzebny do pracy lub nauki, czekanie na spadek cen może się nie opłacić, bo rezerwacje mocy produkcyjnych obejmują najbliższe lata.

Czy lokalne uruchamianie modeli AI na własnym komputerze rzeczywiście jest dla świata mniej wydajne, to kwestia dyskusyjna, a słowa Altmana to tylko jeden punkt widzenia. Jedno jest pewne: walka o układy pamięci między centrami danych a zwykłymi użytkownikami trwa i widać ją w cenach.

Źródło: The Verge – „Sam Altman says it’s better for RAM to be in a data center than on your desk”