Model generatif

Model generatif (generative model) merupakan model yang mempelajari distribusi probabilitas yang mendasari variabel masukan dan dapat digunakan untuk menghasilkan data baru yang serupa dengan pelatihan.Model generatif mempelajari distribusi dan hubungan sekuensial atau temporal dari data yang mendasarinya, sedangkan model diskriminatif konvensional mempelajari pemetaan antara data masukan dan data keluaran menggunakan algoritma regresi atau klasifikasi (Bordukova, Makarov, Esteban, Schmich, & Menden, 2024). Kemajuan terbaru dalam pembelajaran mesin Machine Learning (ML) dan pembelajaran mendalam atau Deep Learning (DL) telah memperluas jangkauan tradisional dengan tugas AI berbasis data seperti: prediksi, klasifikasi, atau rekomendasi terhadap pembuatan konten yang unik, realistis, dan kreatif. Kolaborasi yang lazim antara manusia dan sistem cerdas dalam bisnis telah dibentuk oleh penerapan AI dalam berbagai cara, terutama di bidang optimalisasi proses dan pengambilan keputusan.^[1]

Istilah “generatif” dalam konteks AI mengacu pada kapasitas sistem AI untuk menghasilkan material baru secara mandiri tanpa keterlibatan manusia. Material ini dapat berupa teks, gambar, audio, video, yang berinteraksi dengan standar tertentu atau pedoman khusus. AI generatif mampu mengatasi perkembangan ini dengan memberikan prospek augmentation dan automation dalam bentuk layanan inovatif, misalnya dengan membantu karyawan untuk dukungan pelanggan dengan preferensi saran tanggapan percakapan yang sesuai. Model generatif adalah model pembelajaran mesin yang menghasilkan sampel data baru yang serupa dengan data pelatihan tempat sampel tersebut dilatih. Model ini menangkap distribusi data yang mendasarinya dan dapat menghasilkan contoh-contoh data baru. Model ini dapat diterapkan dalam sintesis gambar, augmentasi data, dan menghasilkan konten realistis seperti gambar, musik, dan teks. Model ini dianggap sebagai model statistik yang dapat menghasilkan contoh data baru. Model ini digunakan dalam pembelajaran mesin tanpa pengawasan atau Unsupervised Learning (UL) sebagai sarana untuk melakukan tugas seperti: estimasi probabilitas dan kemungkinan, memodelkan titik data, menggambarkan fenomena dalam data, dan membedakan kelas berdasarkan probabilitas tersebut.^[1]

Model generatif menjelaskan bagaimana data dihasilkan, mempelajari parameter dengan memaksimalkan probabilitas, dan menghasilkan sesuatu yang berguna untuk tugas pembelajaran tanpa pengawasan. Model ini juga memerlukan lebih sedikit data untuk dilatih karena model ini lebih bias dengan membuat asumsi yang lebih kuat, yaitu asumsi independensi bersyarat. Model ini digunakan untuk membantu kita membuat keputusan yang lebih baik. ^[1]

Model ini dapat digunakan untuk tugas yang lebih luas, namun memerlukan lebih banyak data pelatihan dan sumber daya komputasi yang lebih besar. Model generatif mampu menghasilkan sampe data sintetik yang secara statistik serupa dengan yang diamati oleh data. Ini biasanya digunakan dalam tugas-tugas seperti sintesis gambar atau teks. AI generatif memiliki tantangan besar karena teknologi ini dapat digunakan untuk peran analitis (manajemen data dan tugas kognitif), penggunaan prediktif (pembuatan kebijakan), dan praktik operasional (proteksi data dan keamanan informasi). Karena memiliki fungsi keagenan, AI mempunyai peluang besar dalam pengambilan keputusan, regulasi, kompetisi, termasuk hak asasi manusia. AI Generatif dapat menghasilkan produk dan layanan baru yang lebih akurat, menjawab pertanyaan kompleks berdasarkan akses ke beragam sumber, beroperasi tidak dalam ruang hampa tetapi dengan mengikuti pola yang dipelajari dari perpustakaan data (Sanchez & Morales, 2024).^[1]

Tujuan dari AI Generatif adalah untuk membuat konten yang benar-benar baru menggunakan data yang telah dilatih oleh model tersebut. Input dan output sangat fleksibel pada AI Generatif, sering kali memerlukan rekayasa yang cepat untuk menentukan input terbaik agar mendapatkan output yang diinginkan. AI Generatif mengharuskan manusia untuk memastikan keakuratan outputnya. Solusi dari AI Generatif biasanya tidak memiliki perancah yang diperlukan untuk menemukan masalah dan mengulangi data yang dianotasi. Sistem AI Generatif mencakup infrastruktur, model, pemrosesan data, dan komponen inti sistem, yang memfasilitasi interaksi dan penerapan dalam konteks yang lebih luas. Aplikasi AI Generatif mengacu pada penggunaan praktis dan implementasi sistem seperti pembuatan konten optimasi mesin pencari atau Search Engine Optimization (SEO), pembuatan kode yang memecahkan masalah dunia nyata, dan mendorong inovasi di berbagai domain. AI Generatif juga diharapkan dapat mereformasi secara mendasar cara organisasi dalam mengelola, memelihara, dan berbagi pengetahuan (Feuerriegel, Hartmann, Janiesch, & Zschech, 2024).^[1]

Modalitas pengukuran menggambarkan sudut pandang suatu objek yang berbeda dan digunakan dalam pembelajaran multimodal untuk mempelajari representasi bersama yang menangkap informasi dari semua modalitas dan dapat digunakan untuk klaster, pembelajaran aktif dan pembelajaran transfer, dan di mana label kelas tersedia. Model pembelajaran multimodal harus memenuhi empat kriteria: faktorisasi laten, generasi bersama, generasi silang yang koheren, dan generasi sinergi. Jaringan saraf dalam atau Deep Neural Network (DNN) dan model generatif dalam atau Deep Generative Model (DGM) dengan representasi laten telah digunakan dalam pembelajaran multimodal. DGM mempelajari representasi laten gabungan menggunakan perkiraan variasonal dari distribusi posterior, dan mempelajari model generatif untuk modalitas data dengan mengoptimalkan variasional yang lebih rendah terikat pada kemungkinan log data. Kedua mekanisme ini dapat dilakukan, namun saling bertentangan. Model generatif ini fokus untuk menghasilkan modalitas tanpa menggunakan representasi laten gabungan (Mancisidor, Kampffmeyer, Aas, & Jensen, 2024).^[1]

Kemajuan dalam kecerdasan buatan generatif atau Generative Artificial Intelligence (GAI) telah berkembang pula teknik produksi bahan tekstual dalam otomatisasi pekerjaan. GAI, khususnya melalui Model Bahasa Besar atau Large Language Model (LLM), berfokus pada pembuatan konten kreatif secara otonom. LLM dianggap sebagai algoritma fundamental, mewakili lompatan besar di bidang AI. Tujuan dari kemajuan AI adalah untuk mencapai tingkat kreativitas dan inovasi yang melampaui kemampuan manusia. GAI Generatif adalah mesin transformatif yang tidak hanya mengubah cara bekerja, namun juga membua jalan bagi kemungkinan otomasi tak terbatas di lingkungan tempat kerja. GAI memainkan peran penting dalam membantu dan mempercepat proses untuk membangun produksi konten digital. GAI juga mempersonalisasi pengalaman belajar dan menciptakan materi yang inovatif (Naqbi, Bahroun, & Ahmed, 2024).^[1]

GAI dan LLM meski keduanya berada di bawah naungan AI, memiliki tujuan yang berbeda dan beroperasi secara berbeda. LLM merupakan bagian dari GAI berfokus pada pembuatan teks mirip bahasa manusia. GAI mencakup jangkauan kemampuan pembuatan konten yang lebih luas di berbagai media. Generative Pretained Transformer (GPT) adalah jenis LLM yang dirancang untuk menghasilkan teks. LLM mengacu pada model skala besar yang mampu memahami dan menghasilkan bahasa manusia termasuk teks. AI berfokus pada proses berbasis aturan dan proses berorientasi tugas, sedangkan LLM memanfaatkan data untuk menghasilkan teks mirip bahasa manusia dan menawarkan aplikasi yang fleksibel seperti chatbot yang menggunakan LLM. Dengan menggabungkan kekuatan prediktif GAI dan kemampuan interpretatif LLM, maka AI menawarkan pendekatan holistik untuk meningkatkan layanan paripurna.^[1]

Terdapat dua pendekatan utama dalam klasifikasi statistik, yaitu pendekatan generatif dan pendekatan diskriminatif. Keduanya menggunakan pendekatan yang berbeda dalam tingkat pemodelan statistik dan terminologi yang tidak konsisten, ^[a], tetapi terdapat tiga tipe utama yang dapat dibedakan, sebagaimana yang disebutkan oleh (Jebara 2004) :

1. Model generatif adalah model statistik dari distribusi probabilitas gabungan ${\displaystyle P(X,Y)}$ pada variabel yang diamati X dan variabel target Y; ^[2] Model generatif dapat digunakan untuk "membangkitkan" contoh acak (hasil) dari pengamatan x.^[3]
2. Model diskriminatif adalah model probabilitas bersyarat ${\displaystyle P(Y\mid X=x)}$dari target Y, dengan pengamatan x. Model ini dapat digunakan untuk "mediskriminankan" nilai variabel target Y, dengan pengamatan x. ^[4]
3. Pengklasifikasi yang dihitung tanpa menggunakan model probabilitas juga disebut secara luas sebagai "model diskriminatif".

Perbedaan antara kedua kelas terakhir ini tidak dijelaskan secara konsisten;^[5] (Jebara 2004) menyebutkan bahwa ketiga kelas ini sebagai pemelajaran generatif, pemelajaran kondisional, dan pemelajaran diskriminatif, tetapi (Ng & Jordan 2002) hanya membedakannya menjadi dua kelas dengan menyebutkan pengklasifikasi generatif (distribusi gabungan) dan pengklasifikasi diskriminatif (distribusi kondisional atau tidak ada distribusi), tanpa membedakan dua kelas terakhir. ^[6] Secara analogis, pengklasifikasi yang berdasarkan pada model generatif adalah pengklasifikasi generatif, sementara pengklasifikasi yang berdasarkan pada model diskriminatif adalah pengklasifikasi diskriminatif, walaupun istilah ini juga merujuk pada pengklasifikasi yang tidak berdasarkan pada sebuah model.

Contoh umum masing-masing, yang semuanya merupakan pengklasifikasi linier, adalah:

• pengklasifikasi generatif:
  • pengklasifikasi naive bayes dan
  • analisis diskriminan linier
• model diskriminatif:
  • regresi logistik

Tujuan klasifikasi adalah menentukan label y dari suatu pengamatan x. Klasifikasi ini dapat dilakukan dengan beberapa cara, yaitu menghitungnya secara langsung, tanpa menggunakan distribusi probabilitas (pengklasifikasi bebas-distribusi ); kita dapat memperkirakan probabilitas suatu label berdasarkan suatu pengamatan, ${\displaystyle P(Y|X=x)}$ (model diskriminatif), dan membangun klasifikasi hal tersebut; atau dapat memperkirakan distribusi gabungan ${\displaystyle P(X,Y)}$ (model generatif), yang darinya dihitung probabilitas bersyarat ${\displaystyle P(Y|X=x)}$, dan kemudian membangun klasifikasi di atasnya. Semakin tidak langsungnya cara-cara tersebut, semakin banyak konsep probabilitas yang terlibat, sehingga memungkinkan lebih banyak pengetahuan tentang domain dan teori probabilitas untuk diterapkan. Dalam praktiknya, pendekatan yang berbeda digunakan tergantung pada masalah yang dihadapi, dan terkadang kombinasi metode digunakan untuk memanfaatkan kelebihan dari berbagai pendekatan.

Lihat juga

• Model diskriminatif
• Model grafis

Catatan

1. Three leading sources, Ng & Jordan 2002, Jebara 2004, and Mitchell 2015, give different divisions and definitions.