Large Language Model atau LLM adalah model deep learning yang dirancang untuk memahami, menafsirkan, dan menghasilkan bahasa seperti manusia; biasanya terdiri dari jutaan hingga miliaran parameter neural network dan dilatih menggunakan self-supervising. Contoh LLM terkenal diantaranya GPT-4, BERT, dan LLAMA.
Mengakses LLM terkadang rumit karena kita harus mematuhi persyaratan dan spesifikasi environmental, yang menjadi penghalang untuk mempelajari LLM. Untungnya, kita dapat bereksperimen dengan berbagai LLM secara efisien di laptop kita menggunakan paket Python bernama openplayground.
Apa itu openplayground dan bagaimana kita bisa memanfaatkannya? Mari kita eksplorasi lebih lanjut.
Eksplorasi openplayground
Paket Python openplayground menjelaskan dirinya sebagai playground LLM yang dapat berjalan di laptop Anda, dan mereka benar. Ini adalah playground di mana kita dapat bereksperimen dengan model, bermain-main dengan parameter, membuat perbandingan model, dan melacak riwayat log dengan user interface (UI) yang ramah. Mereka juga menggunakan LLM terkenal dari beberapa entitas, seperti OpenAI, HuggingFace, dan lain sebagainya.
Bagaimana kita bisa mulai menggunakan openplayground? Mari kita mulai dengan menginstal paket tersebut.
pip install openplaygroundKemudian jalankan perintah berikut di terminal Anda.
openplayground runDi terminal, Anda akan mendapatkan informasi berikut.
Ketika openplayground sedang berjalan, dan Anda harus mengunjungi localhost untuk menggunakan playground UI.
Di UI-nya, Anda akan melihat tiga bagian; Playground, Compare, dan Settings. Mari kita pergi ke tab Settings terlebih dahulu, karena kita tidak bisa bekerja tanpa memberikan informasi yang diperlukan.
Saat Anda membuka Settings, akan ada bagian Providers yang perlu kita pilih. Untuk contoh artikel ini, kita akan menggunakan yang dari OpenAI. Klik OpenAI dan masukkan API Key untuk mengakses semua model di openplayground, seperti gambar di bawah ini.
Aktifkan model yang Anda inginkan dan kembali ke tab Playground. Ketika Anda sudah memilih model, akan ada parameter tambahan di sisi kanan yang bisa kita sesuaikan.
Parameter tersebut ada untuk memudahkan kita mengeksplorasi dan bereksperimen dengan hasil model LLM. Mari coba prompt sederhana: “Create me a short story about the princess and the magical kingdom.”
Teks yang dihasilkan akan ditampilkan dalam warna hijau. Jika Anda mengaktifkan Show Probabilities, Anda bisa melihat probabilitas pembuatan token jika model mengizinkannya. Misalnya, model text-DaVinci-03 dapat menunjukkan probabilitas kepada Anda. Mari submit prompt sekali lagi dan lihat hasilnya.
Hovering ke token akan menunjukkan seberapa tinggi probabilitas token muncul. Selain itu, ada informasi tentang 5 token teratas yang bisa menjadi teks yang dihasilkan.
Beralih ke tab Compare, kita bisa membandingkan teks yang dihasilkan oleh berbagai model LLM dengan parameter yang sama. Mari coba dengan prompt yang sama seperti contoh sebelumnya.
Tab Compare menyediakan informasi tentang dua atau lebih model LLM berbeda yang menghasilkan teks secara bersamaan. Informasi tersebut mencakup token, seberapa cepat model menghasilkan teks, berapa lama waktu yang dibutuhkan, dan berapa banyak karakter.
Cobalah bereksperimen dengan berbagai model dari beberapa provider untuk mendapatkan lebih banyak manfaat dari menggunakan openplayground.
Kesimpulan
Large Language Model atau LLM adalah model yang mampu memahami, menafsirkan, dan menghasilkan teks seperti manusia. Dengan openplayground, kita bisa memiliki UI sederhana untuk menjelajahi dan bereksperimen dengan beberapa LLM.
コメント