Új hozzászólás Aktív témák

• #8 bteebi veterán TeeJay #4

  Új Válasz 2024-04-01 13:00:29 #8

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  bteebi

  veterán

  válasz TeeJay #4 üzenetére

  "Mert telefonon PB mennyiségű adatokat pörget az ember?"

  Eddig nem így volt, de hogy a cikket idézzem:

  "A fejlesztésekre leginkább azért van szükség, mert a jövőben egyre inkább elterjedhet a nagy nyelvi modellek lokális futtatása, ami komoly adatmennyiség tárolását és kezelését igényli az ultramobil eszközök oldaláról."

  Ha kiindulsz egy 256 GB-os alap tárhelyből (ettől a legtöbb gyártó nem fog többet adni), akkor azt 10 GB/s-el egy perc alatt kétszer, egy óra alatt 120-szor végigírod. Ha pl. napi 6 órában lenne adatintenzív feladatokra használva (legyen mondjuk 150 GB/h), akkor az egy nap 900 GB lenne, egy 22 napos hónap alatt meg kb. 20 TB. Az már kb. 800 újraírás. Egy hónap alatt. Nyilván ezek fiktív számok, de ha kell a ~10 GB/s, mert mondjuk a 3 GB nem elég, akkor ott már súlyos bajok vannak.

  Alternatív feloldás lehetne, ha nem brutál nagy adatcsomagok lennének, "csak" pár gigásak, viszont azokat "real time" (mondjuk <100 ms késleltetés) kellene beolvasni/feldolgozni. Ebben az esetben jóval jobb lehetne a helyzet.

  Cancel all my meetings. Someone is wrong on the Internet.

Új hozzászólás Aktív témák