Chat Generative Pre-Trained Transformer (ChatGPT) merupakan model artificial intelligence generatif yang mampu memahami dan merespon masukan manusia dengan meniru perkataan manusia melalui alrogitme yang sudah dilatih sebelumnya. Kemajuan pesat teknologi ini memiliki potensi besar bagi perkembangan manusia, dampak yang signifikan dapat dirasakan oleh masyarakat dikarenakan artificial intelligence membantu untuk mempermudah akses dan memungkinkan seseorang memperoleh informasi dalam waktu singkat. Meskipun demikian, hal ini dapat disalahgunakan oleh oknum-oknum yang memiliki niat jahat untuk melakukan aktivitas kriminal seperti serangan siber dengan cara phising, menyebarkan berita yang menyesatkan, mencuri data dan informasi pribadi milik orang lain yang dapat menyebabkan kerugian secara finansial. Oleh sebab itu, penulis melakukan penelitian hukum normative-empiris untuk menganalisa peraturan perundang-undangan yang ada di Indonesia saat ini dan membandingkannya dengan perkembangan artificial intelligence ChatGPT yang luas dan berkembang dengan pesat guna melihat apakah regulasi mengenai perkembangan teknolgi tersebut telah dirumuskan dalam undang-undang yang ada. Penulis menggunakan data primer berupa peraturan perundang-undangan, data sekunder berupa buku dan jurnal, serta data tersier berupa wawancara untuk menjawab rumusan masalah sebagai berikut: 1) Bagaimana peraturan hukum Indonesia memberikan perlindungan terhadap penyalahgunaan kriminal ChatGPT untuk pelaku bisnis online? 2) Bagaimana peraturan perundang-undangan di Indonesia menetapkan sanksi atas tindak pidana penyalahgunaan ChatGPT pada pelaku bisnis online? Hasil dari analisis penelitian menunjukkan bahwa undang- undang yang berlaku saat ini, terutama UU ITE dan PP No. 71 Tahun 2019, belum merinci pengertian artificial intelligence, namun hal tersebut telah termasuk dalam definisi ‘agen elektronik’, serta penyelenggara sistem elektronik yang memiliki kepentingannya sendiri yaitu hak, kewajiban, dan persyaratan bagi organisasi atau pemilik bisnis. Selanjutnya, jika dibandingkan dengan peraturan Cina mengenai artificial intelligence, sanksi terhadap penyalahgunaan artificial intelligence secara spesifik belum ada di Indonesia; dikarenakan UU ITE hanya memberikan pengaturan umum mengenai penyalahgunaan penggunaan perangkat elektronik.