Edge AI adalah pendekatan penerapan kecerdasan buatan di mana pemrosesan model AI dilakukan langsung pada perangkat pengguna atau perangkat yang berada dekat dengan sumber data—seperti smartphone, kamera pintar, sensor IoT, atau kendaraan otonom—alih-alih mengirim data ke server cloud jarak jauh untuk diproses dan menunggu hasilnya dikirim kembali.
Istilah "edge" merujuk pada posisi perangkat ini yang berada di "tepi" jaringan, paling dekat dengan pengguna atau sumber data, berbeda dengan komputasi cloud tradisional yang memproses data di pusat data (data center) yang berlokasi jauh dan terhubung melalui internet.
Keunggulan utama edge AI mencakup latensi sangat rendah (respons instan tanpa jeda transmisi data ke dan dari server jarak jauh), privasi lebih baik (data sensitif tidak perlu dikirim keluar dari perangkat pengguna), keandalan tanpa koneksi internet (dapat berfungsi meski tidak terhubung ke internet), dan penghematan biaya bandwidth (mengurangi kebutuhan transmisi data besar secara terus-menerus).
Edge AI menjadi krusial untuk aplikasi yang membutuhkan respons real-time dengan konsekuensi tinggi jika terjadi keterlambatan, seperti sistem pengereman darurat pada mobil otonom yang tidak bisa menunggu jeda komunikasi ke server cloud, fitur pengenalan wajah untuk membuka kunci smartphone, atau asisten suara yang tetap dapat memproses perintah dasar meski tanpa koneksi internet.
Perkembangan edge AI sangat bergantung pada kemajuan teknik optimisasi model seperti quantization dan distillation, yang memungkinkan model AI yang sebelumnya membutuhkan komputasi server besar dapat dipangkas menjadi cukup ringkas untuk berjalan pada chip terbatas di perangkat konsumen, sekaligus mendorong produsen chip untuk mengembangkan prosesor khusus AI (Neural Processing Unit atau NPU) yang kini banyak tertanam pada smartphone dan laptop modern.