#30 tag 24jam
DeepSeek Luncurkan Kerangka Kerja DSpark, Kecepatan Teks Terdongkrak 85%
DeepSeek meluncurkan DSpark, kerangka kerja AI open-source yang meningkatkan kecepatan teks hingga 85% tanpa mengubah arsitektur model, tersedia di GitHub. [481] url asal
#deepseek #dspark #kecerdasan-buatan #open-source-dspark #generasi-teks-cepat #speculative-decoding #inferensi-akselerasi #semi-autoregressive #confidence-scheduled-verification #deepseek-v4-pro-dspark
(Bisnis.Com - Teknologi) 29/06/26 00:50
v/262196/
Bisnis.com, JAKARTA — Perusahaan kecerdasan buatan (AI) asal Cina, DeepSeek, meluncurkan kerangka sumber terbuka (open-source) DSpark yang diklaim mampu mendongkrak kecepatan generasi teks sebesar 60% hingga 85% tanpa mengubah arsitektur dasar model.
Secara sederhana, DSpark bertindak sebagai "asisten pengetik cepat" untuk model AI utama yang berukuran besar. Dalam prosesnya, DSpark yang berukuran lebih kecil dan ringan akan menebak dan menyusun draf kalimat secara instan.
Setelah draf selesai, model AI utama yang besar dan cerdas hanya perlu memeriksa dan memvalidasi draf tersebut (batch verification). Teknik ini berhasil memangkas waktu tunggu respon (latency) tanpa menurunkan kualitas kecerdasan model sedikit pun.
DeepSeek mengubah strateginya menuju optimalisasi proses inferensi. Melalui inovasi ini, perusahaan tidak hanya bersaing pada aspek kualitas kecerdasan buatan melainkan pada efisiensi penyebaran infrastruktur komputasi di dunia nyata.
Kerangka kerja yang termuat dalam makalah ilmiah besutan pendiri DeepSeek Liang Wenfeng bersama para peneliti dari Peking University tersebut dirilis dengan judul "DSpark: Confidence-Scheduled Speculative Decoding with Semi-Autoregressive Generation."
Bersamaan dengan publikasi makalah tersebut, DeepSeek membuka akses publik untuk model DeepSeek-V4-Pro-DSpark dan DeepSeek-V4-Flash-DSpark, serta meluncurkan rantai alat pelatihan (training toolchain) komprehensif DeepSpec secara gratis di platform GitHub.
Speculative decoding merupakan metode akselerasi inferensi tanpa kehilangan kualitas (lossless) yang bekerja memisahkan draf generasi dari proses verifikasi target model. Model draf yang ringan akan menghasilkan urutan teks secara instan, kemudian model target melakukan verifikasi secara massal. Metode ini efektif menukar daya komputasi mentah demi memangkas tingkat keterlambatan respon (latency).
Kendati demikian, sistem penyusun draf paralel yang ada saat ini kerap mengalami penurunan tingkat penerimaan data (acceptance rate) yang drastis pada token-token akhir akibat hilangnya dependensi token.
DSpark mengatasi hambatan sistemik tersebut melalui dua inovasi utama. Pertama, arsitektur semi-autoregressive menggabungkan jaringan tulang punggung paralel dengan modul serial yang ringan guna membangun dependensi token di dalam blok.
Langkah ini mampu memitigasi penurunan tingkat penerimaan di akhir urutan teks. Kedua, mekanisme verifikasi berbasis jadwal tingkat kepercayaan (confidence-scheduled verification) secara dinamis menyesuaikan panjang verifikasi untuk setiap permintaan pengguna berdasarkan probabilitas penerimaan awal dan karakteristik throughput mesin menurut laporan Pandailly.
Dalam pengujian tolak ukur luring (offline benchmarks) di berbagai ranah, DSpark menunjukkan peningkatan signifikan pada panjang urutan teks efektif yang diterima jika dibandingkan dengan model penyusun draf konvensional.
Saat diterapkan pada sistem produksi daring DeepSeek yang menangani lalu lintas pengguna riil, teknologi ini terbukti memangkas pemborosan daya komputasi dari verifikasi yang tidak valid.
Sistem ini menyajikan kecepatan generasi pengguna tunggal 60% hingga 85% lebih cepat dibandingkan dengan lini produksi matang terdahulu (MTP-1), dengan total kapasitas pemrosesan (throughput) keseluruhan yang tetap terjaga.
Paket pustaka sumber terbuka DeepSpec yang menyertai peluncuran ini menyediakan toolkit lengkap untuk melatih serta mengevaluasi model draf speculative decoding.
Alat ini mencakup persiapan data, implementasi model draf, kode pelatihan, hingga skrip evaluasi di bawah lisensi MIT. Sistem ini mendukung tiga model draf, yakni DSpark, DFlash, dan Eagle3, serta kompatibel dengan model eksternal populer seperti Qwen3 dan Gemma.
#50 tag sepekan
#ihsg (164) #purbaya (113) #investasi (94) #ojk (90) #apbn (88) #danantara (67) #pertumbuhan ekonomi (61) #trump (61) #kemenkeu (58) #pertamina (57) #umkm (53) #bei (52) #pajak (48) #donald trump (47) #esdm (45) #menkeu (44) #himbara (36) #kementerian keuangan (36) #bahlil lahadalia (35) #emas (35) #bapanas (34) #pasar saham (34) #ekonomi indonesia (34) #bumn (32) #menteri keuangan (31) #kemnaker (30) #mbg (29) #djp (28) #btn (27) #imf (27) #ekspor (27) #perang dagang (26) #kementan (26) #bbm (25) #garuda indonesia (24) #pasar modal (24) #utang (24) #bri (23) #bank indonesia (23) #rupslb (23) #hilirisasi (23) #yassierli (22) #magang (22) #kebijakan fiskal (22) #amran sulaiman (22) #ppn (22) #whoosh (21) #bea cukai (21) #bitcoin (20) #komdigi (20)