Memang benar bahwa integrasi LLM masih tidak mudah bagi orang biasa.
Terlepas dari keterbatasan perangkat keras, jika Anda tidak meluangkan waktu untuk memahami dasar-dasarnya, sulit untuk menguasai konsepnya.
Jadi, seperti artikel yang saya posting di AI Party beberapa waktu lalu, saya memanfaatkan AI yang tersedia dengan mengintegrasikan berbagai AI dari berbagai sumber.
Aplikasi (ekstensi browser web) yang baru saya buat kali ini adalah AIAng.
Dengan memanfaatkan Chrome Gemini Nano dan Apple Intelligence (Model Fondasi = Model On-Device),
Aplikasi ini menyediakan pemeriksaan ejaan untuk posting dan komentar, koreksi ke bentuk hormat, peningkatan kalimat, rekomendasi judul posting, dan sebagainya,
serta menyediakan ringkasan posting, ringkasan reaksi, dan kamus istilah.
Fitur demo pembuatan komentar ini kontroversial, jadi saya tidak mereleasenya.
Apple Intelligence mendukung jendela konteks 4096 pada perangkat mobile,
Untuk Chrome Gemini Nano, ini tampaknya tidak jelas.
Saya pikir itu adalah 4096, tetapi karena lingkungannya beragam, mungkin dialokasikan secara dinamis.
Jadi, ketika mengimplementasikan Chrome Gemini, saya harus memperhatikan chunking.
Ekstensi Chrome tersedia di sini
https://github.com/DINKIssTyle/DINKIssTyle-Chrome-Extensions/tree/main/AIAng
Anda dapat mencoba ekstensi Safari untuk iPadOS/iOS di TestFlight.
https://testflight.apple.com/join/wPNGvkUx
Saya berharap era akan datang ketika tingkat pemrosesan ini dapat dilakukan dengan cepat di perangkat apa pun.
