Elképesztő kísérlet: hatalmas AI-modellt futtatott az iPhone 17 Pro

Egy érdekes kísérlet szerint az iPhone 17 Pro képes volt egy hatalmas, 400 milliárd paraméteres AI-modellt helyben futtatni, ami elsőre szinte lehetetlennek hangzik. Az ilyen méretű nyelvi modellek normál esetben több mint 200 GB memóriát igényelnek, miközben egy telefonban ennek csak töredéke áll rendelkezésre. A bemutató egy Flash-MoE nevű nyílt forráskódú projekthez kapcsolódik, amelyet egy […]