Akuntabilitas secara harfiah dalam bahasa inggris biasa disebut dengan accoutability yang diartikan sebagai “yang dapat dipertanggungjawabkan”. Atau dalam kata sifat disebut sebagai accountable. Lalu apa bedanya dengan responsibility yang juga diartikan sebagai “tanggung jawab”. Pengertian accountability dan responsibility seringkali diartikan sama. Padahal maknanya jelas sangat berbeda. Beberapa ahli menjelaskan bahwa dalam kaitannya dengan birokrasi, responsibility merupakan otoritas yang diberikan atasan untuk melaksanakan suatu kebijakan. Sedangkan accountability merupakan kewajiban untuk menjelaskan bagaimana realisasi otoritas yang diperolehnya tersebut.
Berkaitan dengan istilah akuntabilitas, Sirajudin H Saleh dan Aslam Iqbal berpendapat bahwa akuntabilitas merupakan sisi-sisi sikap dan watak kehidupan manusia yang meliputi akuntabilitas internal dan eksternal seseorang. Dari sisi internal seseorang akuntabilitas merupakan pertanggungjawaban orang tersebut kepada Tuhan-nya. Sedangkan akuntabilitas eksternal seseorang adalah akuntabilitas orang tersebut kepada lingkungannya baik lingkungan formal (atasan-bawahan) maupun lingkungan masyarakat.
Deklarasi Tokyo mengenai petunjuk akuntabilitas publik menetapkan pengertian akuntabilitas yakni kewajiban-kewajiban dari individu-individu atau penguasa yang dipercayakan untuk mengelola sumber-sumber daya publik dan yang bersangkutan dengannya untuk dapat menjawab hal-hal yang menyangkut pertanggungjawaban fiskal, manajerial, dan program.
Ini berarti bahwa akuntabilitas berkaitan dengan pelaksanaan evaluasi (penilaian) mengenai standard pelaksanaan kegiatan, apakah standar yang dibuat sudah tepat dengan situasi dan kondisi yang dihadapi, dan apabila dirasa sudah tepat, manajemen memiliki tanggung jawab untuk mengimlementasikan standard-standard tersebut.
Akuntabilitas juga merupakan instrumen untuk kegiatan kontrol terutama dalam pencapaian hasil pada pelayanan publik. Dalam hubungan ini, diperlukan evaluasi kinerja yang dilakukan untuk mengetahui sejauh mana pencapaian hasil serta cara-cara yang digunakan untuk mencapai semua itu. Pengendalian (control) sebagai bagian penting dalam manajemen yang baik adalah hal yang saling menunjang dengan akuntabilitas.
Dengan kata lain pengendalian tidak dapat berjalan efisien dan efektif bila tidak ditunjang dengan mekanisme akuntabilitas yang baik demikian juga sebaliknya.
Media akuntabilitas yang memadai dapat berbentuk laporan yang dapat mengekspresikan pencapaian tujuan melalui pengelolaan sumber daya suatu organisasi, karena pencapaian tujuan merupakan salah satu ukuran kinerja individu maupun unit organisasi. Tujuan tersebut dapat dilihat dalam rencana stratejik organisasi, rencana kinerja, dan program kerja tahunan, dengan tetap berpegangan pada Rencana Jangka Panjang dan Menengah (RJPM) dan Rencana Kerja Pemerintah (RKP). Media akuntabilitas lain yang cukup efektif dapat berupa laporan tahunan tentang pencapaian tugas pokok dan fungsi dan target-target serta aspek penunjangnya seperti aspek keuangan, aspek sarana dan prasarana, aspek sumber daya manusia dan lain-lain.