Apple mengungkap bahwa memori yang lebih cepat serta dua unit Neural Engine pada perangkat terbarunya secara signifikan meningkatkan kemampuan menjalankan model AI berukuran besar secara lokal, tanpa bergantung pada layanan cloud. Dalam sebuah slide presentasi bertema "Enabling a Full Range of Local AI Inference," Apple memetakan kemampuan lini produknya, mulai dari iPhone dan iPad hingga Mac Studio, berdasarkan kapasitas memori, bandwidth, dan jumlah parameter aktif model AI yang bisa dijalankan. iPhone dan iPad dengan 16GB unified memory disebut mampu menjalankan model dengan 14 miliar parameter aktif, meski bandwidth memori yang diklaim Apple, 76GB/s, sudah dilampaui chip A20 Pro yang mencapai 115,2GB/s. MacBook Air dan Mac mini, dengan memori hingga 64GB dan bandwidth hingga 307GB/s, sanggup menjalankan model hingga 70 miliar parameter. MacBook Pro kelas atas berbekal 128GB unified memory dapat menangani model 120 miliar parameter, setara laptop RTX Spark dengan kapasita...
