Menurut Nadella, ancaman terbesar bukan hanya data perusahaan yang diunggah ke model AI, tetapi juga seluruh jejak interaksi yang tercipta selama penggunaan.
Ia menyebut jejak tersebut sebagai AI exhaust atau jejak buangan AI. Jejak itu mencakup prompt yang diketik pengguna, alat yang dipanggil oleh AI agent, hingga koreksi yang dilakukan karyawan ketika model memberikan jawaban yang salah.
"Model belajar dari exhaust, yaitu prompt yang ditulis orang, alat yang digunakan agen, dan terutama koreksi yang dilakukan ketika model salah. Setiap koreksi disaring menjadi pengetahuan institusional," tutur Nadella.
Menurut Nadella, setiap perbaikan yang dilakukan pengguna sebenarnya merupakan pengetahuan organisasi yang sangat berharga.
Informasi tersebut terus mengalir sedikit demi sedikit ke penyedia model AI melalui setiap prompt, setiap evaluasi, dan setiap koreksi yang dilakukan pengguna.
Akibatnya, hubungan antara perusahaan pengguna dan penyedia AI menjadi tidak seimbang. Vendor AI terus mempelajari bisnis pelanggannya, sedangkan pelanggan hampir tidak mengetahui apa saja yang telah dipelajari oleh penyedia model tersebut.
