С 1975 года Микоян уже не участвовал в работе Верховного Совета и почти нигде не выступал. На XXV съезде КПСС в 1976 году Микоян не присутствовал и не был избран в новый состав ЦК. Он вел теперь жизнь пенсионера, встречаясь с немногими из оставшихся в живых друзьями и многочисленными членами своей семьи. Микоян часто болел. В середине октября 1978 года у него появились признаки сильного воспаления легких. Спасти его не удалось, и 21 октября 1978 года Микоян умер.
Вопрос о похоронах таких людей, как Микоян, решается у нас в стране не родственниками. В извещении о смерти Микояна, появившемся 23 октября в газетах, ничего не говорилось о времени и месте похорон. Краткость этого извещения и фраза о смерти <старейшего члена КПСС, персонального пенсионера Микояна Анастаса Ивановича> казались веским основанием для предположения, что похороны Микояна будут проходить так же, как и похороны Хрущева, гроб с телом которого сразу из морга отвезли на Новодевичье кладбище. Даже сыновья и родственники Микояна не знали - будет ли вообще проводиться гражданская панихида. Решение о процедуре похорон было принято
только 23 октября. 24 октября в <Празде> и других газетах был опубликован некролог, подписанный всеми членами Политбюро ЦК. Однако и в этот день в печати не было никаких сведений о месте и времени прощания сбывшим Председателем Президиума Верховного Совета. Это дало повод друзьям говорить о <полусекретных похоронах> Микояна. Гражданская панихида состоялась 25 октября в зале Дома ученых на Кропоткинской улице. Доступ к гробу не был свободным, и время прощания было ограничено несколькими часами. Мимо гроба проходили в основном специально отобранные делегации некоторых московских заводов и учреждений. <Неорганизованные> граждане в здание Дома ученых не допускались. В Москву прилетели представители Армении во главе с руководителями этой республики. Они встали в почетный караул у гроба своего земляка.
Молодой Микоян хоронил Ленина. Он сопровождал его гроб от Горок в Москву и стоял на сколоченной наспех трибуне на Красной площади. Микоян хоронил Сталина и выносил гроб с его телом из Дома Союзов. Когда умер Хрущев, на его могилу был положен венок <Дорогому другу от А. Н, Микояна>. Теперь хоронили самого Микояна. В почетный караул возле гроба становились по очереди министры СССР, члены Президиума Верховного Совета СССР. В середине дня для прощания с Микояном прибыли члены Политбюро: Л.И.Брежнев, В.В.Гришин, А. П.Кириленко, А.Н. Косыгин, М. А. Суслов, Д. Ф. Устинов, Б. Н. Пономарев.
Мы не будем пересказывать здесь те речи, которые произносились в Доме ученых и на траурном митинге, состоявшемся в тот же день на Новодевичьем кладбище. Политическое долголетие Микояна объясняется не только удачей или хитростью, гибкостью, умением уступать силе или идти на компромиссы. Дело было, пожалуй, не в исключительных дипломатических, а скорее в исключительных деловых талантах этого человека. Это сумел оценить даже Сталин: в конце концов из-за плохого снабжения происходили многие революции и не только в России.
Микоян часто смотрел смерти в лицо. Его могли бы похоронить в 1920 году в Баку среди его друзей - бакинских комиссаров. Его могли бы расстрелять в 1937 году, как многих других членов ЦК и яаркомов. Впрочем, его прах мог бы покоиться на Красной площади возле Мавзолея Ленина. Он же нашел свой последний покой рядом с могилой своей жены Ашхен на Новодевичьем кладбище.