Gromiko inició su carrera política en 1939 siendo nombrado jefe de la sección
de asuntos exteriores encargada de los asuntos de Estados Unidos. En 1943 fue
nombrado embajador en Washington y como tal acudió a Teherán, Yalta y Potsdam.
En 1946 fue el primer representante permanente de la URSS en el Consejo de
Seguridad de la ONU.
Protegido de Molotov, desempeñó otros altos cargos
diplomáticos, entre ellos el de embajador en el Reino Unido, y finalmente
accedió al cargo de ministro de asuntos exteriores en 1957. Gromiko desempeñó
el cargo hasta la llegada de Gorbachov en 1985. Figura clave de la guerra
fría, estuvo encargado de la diplomacia soviética bajo el liderazgo de
Kruschev, Breznev, Andropov y Chernenko. Participó en todos los grandes
asuntos del período como la crisis de los misiles de Cuba, durante la que se
entrevistó personalmente con Kennedy, y todas las negociaciones de
control de armamentos.
Fue un hábil negociador y un político y diplomático
conocedor de su oficio. Los estudiosos debaten hasta que punto participó en la
formación de la política exterior soviético y algunos indican que fue un mero
ejecutor.
Gorbachov, quién ascendió a la secretaria general del PCUS
con su apoyo, "ascendió" a Gromiko al cargo de presidente del Presidium del
Soviet Supremo. Se retiró en 1988 y falleció en julio de 1989, no llegando a
asistir a la caída del Muro de Berlín y a la propia desaparición de la URSS.