Kebiasaan pengguna menyisipkan kata ‘tolong’ dan ‘terima kasih’ saat berinteraksi dengan artificial intelligence (AI) seperti ChatGPT ternyata dapat berdampak finansial cukup besar bagi OpenAI. Hal ini diungkapkan langsung oleh CEO OpenAI, Sam Altman.
Menurut Altman, bersikap sopan terhadap AI sebenarnya bukan hal yang penting. Sebaliknya, penggunaan kata-kata sopan justru membuat AI memproses lebih banyak token, yang pada akhirnya meningkatkan konsumsi listrik dan menambah beban biaya operasional.
Altman mengungkapkan hal tersebut melalui media sosial X (sebelumnya Twitter), menanggapi pertanyaan dari seorang pengguna dengan akun @tomieinlove yang bertanya, “Saya ingin tahu berapa banyak uang yang hilang dari biaya listrik yang dihapus OpenAI karena orang-orang mengucapkan ‘tolong’ dan ‘terima kasih’ ke model AI mereka.”
Menjawab pertanyaan itu, Altman menulis, “Puluhan juta dollar terpakai dengan baik. Anda tidak akan pernah tahu,” melalui akun X miliknya, @sama. Meski tidak merinci angka pasti, ia menekankan besarnya biaya yang dikeluarkan.
Dilansir Kompas Tekno, setiap kali pengguna menambahkan kata-kata sopan seperti “please” atau “thank you”, model GPT-3.5 Turbo akan memproses tambahan 2 hingga 4 token. Biaya pemrosesan token pada model ini adalah sekitar 0,0015 dolar AS per 1.000 input token, dan 0,002 dolar AS per 1.000 output token.
Dengan demikian, satu ucapan sopan rata-rata hanya menambah biaya sekitar 0,0000015 hingga 0,000002 dolar AS per interaksi. Jika dihitung secara kasar, jumlah tersebut setara dengan sekitar 400 dolar AS per hari, atau 146.000 dolar AS per tahun, angka yang jauh lebih rendah dibandingkan klaim Altman yang menyebutkan kerugian mencapai puluhan juta dolar.
Proses ini melibatkan infrastruktur komputasi besar dan canggih, termasuk Graphics Processing Unit (GPU), Tensor Processing Unit (TPU), dan berbagai chip berdaya tinggi lainnya.
Sementara itu, GPT-4 sendiri diduga dilatih di pusat data milik Microsoft Azure, mengingat adanya kemitraan strategis antara OpenAI dan Microsoft. Pusat data Azure memiliki Power Usage Effectiveness (PUE) rata-rata 1,18, meski dapat berbeda antar lokasi.
Dengan estimasi pelatihan selama 90 hingga 100 hari, total konsumsi listrik untuk pelatihan GPT-4 diperkirakan mencapai antara 51.772 megawatt-jam (MWh) hingga 57.525 MWh. Jumlah ini setara dengan konsumsi energi sekitar 1.000 rumah tangga di Amerika Serikat selama lima hingga enam tahun.
Sebagai perbandingan, angka tersebut disebut 40 kali lebih tinggi dibandingkan konsumsi listrik GPT-3, sebagaimana dilaporkan oleh Kompas Tekno dari Towards Data Center pada Selasa (22/4/25).
Reporter