23:41
Google mengusulkan Titans: Menerobos keterbatasan Daya Komputasi dan memperluas konteks
Pada tanggal 25 Februari, Google Research merilis sebuah studi baru tentang Titans. Melalui pengenalan modul memori jangka panjang saraf baru, arsitektur kolaboratif tiga kepala dan modul desain optimasi perangkat keras, jendela konteks model besar telah diperluas menjadi 2 juta token dengan hanya 1,8 kali peningkatan oleh Daya Komputasi. Titans tidak hanya memecahkan hambatan Daya Komputasi dari model Transformer dalam pemrosesan konteks panjang, tetapi juga mensimulasikan mekanisme hierarkis sistem memori manusia melalui desain biomimetik, dan menyadari penalaran akurat dari konteks ultra-panjang dari 2 juta token untuk pertama kalinya.
TOKEN-0.57%
- 2

