Red Hat OpenShift AI Akselerasi Adopsi AI Generatif

SAAT Large Language Models (LLMs) seperti GPT-4 dan LlaMA menjadi mainstream, peneliti dan pengembang aplikasi di semua domain dan industri sedang mencari cara untuk mendapatkan keuntungan dari hal ini dan model fondasi lain. Pelanggan bisa menyempurnakan model komersial atau open source dengan data yang domain-specific untuk menjadikannya lebih akurat dalam contoh kasus tertentu. Pelatihan awal model artificial intelligence (AI) membutuhkan infrastruktur besar, membutuhkan platform dan tool khusus bahkan sebelum mempertimbangkan pelayanan, pengaturan dan pengelolaan model. Tanpa platform yang bisa memenuhi permintaan ini, organisasi sering kali memiliki keterbatasan dalam memanfaatkan AI/ML.

Red Hat OpenShift AI membantu menghilangkan semua penghalang tersebut dengan menyediakan fondasi standar untuk mengkreasikan model produksi AI/ML serta menjalankan aplikasi hasilnya. OpenShift AI memberikan konsistensi, kemudahan penggunaan, dan pilihan penggelaran cloud-to-edge. Platform engineer bisa membuat konfigurasi yang bisa diskalakan, khusus untuk kebutuhan data scientist dan pengembang mereka. OpenShift AI bisa digunakan untuk menyempurnakan model yang sudah ada, menghemat biaya pelatihan model awal, meningkatkan time to value, dan memperluas penggunaan AI lebih dari sekadar untuk data scientist khusus. 

"Model fondasi memberikan keuntungan nyata dan jelas bagi enterprise dalam hal pemanfaatan benefit AI, tetapi mereka masih membutuhkan investasi di pelatihan dan penyesuaian untuk memenuhi kebutuhan unik enterprise. Visi Red Hat untuk enterprise AI membangun realitas yang sudah ada dengan Red Hat OpenShift AI yang memberikan fondasi fleksibel dan skalabel untuk melatih, maintain, menyempurnakan, dan benar-benar menggunakan model fondasi dalam produksi. Yang terbaik ialah OpenShift AI tetap menjadi OpenShift. Ini berarti organisasi IT mempercayai dan memahaminya dan bisa memperluas operasional AI/ML dari untuk memenuhi kebutuhan hari ini dan di masa yang akan datang," ujar Chris Wright, Chief Technology Officer dan senior vice president Global Engineering Red Hat.

Baca juga: Google Lens Mampu Identifikasi Kondisi Kulit

Red Hat OpenShift AI menyediakan beberapa penawaran mitra teknologi pilihan, termasuk Anaconda, IBM Watson Studio, Intel OpenVINO, dan AI Analytics Toolkit, NVIDIA AI Enterprise dan Starburst. Ia juga menyediakan akses ke tambahan 30 mitra AI/ML tersertifikasi sebagai bagian dari ekosistem OpenShift.

Pelanggan dengan persyaratan regulasi dan compliance khusus, termasuk lingkungan yang berjarak dan terputus (air-gapped and disconnected), bisa mempersiapkan data, serta mengembangkan, melatih dan menggelar model di on-premise menggunakan OpenShift AI. Pelanggan juga bisa mengembangkan model di public cloud, dan menggelarnya di on-premise atau di edge menggunakan tooling dan antar muka yang sama secara konsisten, sehingga menyediakan lingkungan hybrid MLOps unik, yang memungkinkan kolaborasi antara operasional IT, data science, dan pengembang aplikasi. 

Baca juga: Meta Luncurkan Model AI Generatif Terbaru yang Mampu Ciptakan Musik dari Teks

Fondasi OpenShift AI yang telah terbukti memungkinkan pelanggan melakukan penskalaan dengan lebih andal untuk melatih model fondasi menggunakan fitur-fitur akselerasi native GPU OpenShift di on-premise atau melalui layanan cloud. Peningkatan terbaru untuk Red Hat OpenShift AI di antaranya pipelines penggelaran untuk pelacakan eksperimen AI/ML dan alur kerja ML terotomatisasi yang membantu data scientist dan pengembang aplikasi cerdas melakukan iterasi pada proyek machine learning secara cepat dan menanamkan otomatisasi ke penggelaran dan pembaharuan aplikasi. Ada pula penyajian model sekarang termasuk dukungan GPU untuk inferensi, dan custom model serving runtime, yang meningkatkan performa inferensi dan penggelaran model fondasi yang lebih baik. 

Di berbagai industri, enterprise sudah menggunakan Red Hat OpenShift AI untuk mendukung inovasi AI/ML. Sebut saja Atruvia, perusahaan Jerman yang menyediakan layanan IT, termasuk AI, bagi lembaga keuangan di dunia. Clalit Health Care Services, organisasi layanan kesehatan terbesar Israel, juga memilih Red Hat OpenShift AI sebagai fondasi untuk membangun model AI dalam penelitian klinis. Tirando X Colombia, organisasi nirlaba yang berfokus pada kesehatan reproduksi di Kolombia, memanfaatkan Red Hat OpenShift AI dalam mengoptimalkan alur kerja AI/ML untuk menciptakan aplikasi pencegahan kehamilan pada remaja. (RO/Z-2)