1996年12月17日 (農歷冬月初七)，安南出任第七任聯合國秘書長。
12月17日，安南第一次在聯合國大會上發表講話
1996年12月13日，聯合國安理會通過一項決議，一致通過向聯合國大會推薦負責維和事務的副秘書長科菲-安南出任下屆秘書長。17日，聯合國大會以鼓掌方式通過決議，任命這位來自撤哈拉以南的加納人接替加利為第七任聯合國秘書長，從而使這一世界上最大的國際組織在其51年的歷史上第一次由黑人出任最高職務。
由于自幼受到傳統教育的熏陶，安南舉止儒雅，為人正直，待人坦誠。他當選秘書長時顯得很冷靜，他說：“這沒什么了不起，卻是幸運之至。”在聯合國內部，安南人緣好，給職員們留下“忠心耿耿”的印象。他能力出眾，踏實肯干，在聯合國外交官中也享有較高的聲望。1991年海灣戰爭期間，他赴中東解決900名聯合國工作人員返回問題，就釋放劫持的西方人質舉行談判，并協助解救被困在伊朗和伊拉克的50萬亞洲人。1993年3月，安南出任聯合國負責維和事務的副秘書長，總管維和行動，促成波黑交戰各方停火的“代頓協定”的簽署。在波黑和平處于最艱難的時刻，安南接任明石康出任聯合國駐前南斯拉夫特使，受到一向抨擊聯合國部隊的波斯尼亞駐聯合國大使沙契里貝的贊賞。
初上任的聯合國秘書長安南面臨著一大堆棘手的問題：由于聯合國一些成員國拖欠會費達23億美元，其中美國占13億，嚴重影響聯合國的運轉，特別是維和行動的開展。1997年1月22日，安南飛抵華盛頓討債，美國總統克林頓表示要預付10億美元。然而僅隔一周，美國政府又透露，償還日期將推遲至1999財政年度，而且它的實施，有待于考察聯合國改革方案是否符合“美國的目標”。看來，讓美國償還拖欠會費尚需時日。
安南的另一個重要任務是組建一個講究效率的班子。他上任的第一天，應其要求，有23名原聯合國高級官員向他遞交了辭呈。1月28日安南又任命一批助理秘書長以上的高級官員，同時接受5名高級官員的辭呈。重新任命秘書處高級官員的工作到2月底完成，其間肯定有些麻煩，不是個個都樂于放棄這塊肥缺的。
聯合國機構龐雜，人浮于事，效率不高，開支巨大，要求改革的呼聲日高。但究竟如何改，達到什么目的。185個成員國各有主張。多數國家支持聯合國的社會發展計劃，而美國等少數西方國家強調的改革，意味著聯合國要裁員和削減預算。安理會要擴大，但不能僅限于日本和德國，亞非拉其他地區也應有自己的代表。擴誰不擴誰，爭論將十分激烈。此外，安南尚需廣泛聽取各種改革觀點，找出各方都能接受的一套全面計劃，給聯合國重新定位。這些對于經驗豐富的安南來說也并不是一件輕松的事。
安南宣誓就職
1996年12月13日，本月安理會主席富爾奇向在安理會走廊等候的各國記者宣布安南當選的消息
與前任秘書長加利（左）、德奎利亞爾合影
上任第一天在總部會見日本駐聯合國大使