在苏共总书记中，安德罗波夫可说是到访中国最多的一位：1959年作为赫鲁晓夫的随员访华；1963年率苏联最高苏维埃代表团访问越南路过北京；1963年7月和1964年11月参加中苏两党会谈；1965年作为部长会议主席柯西金的随员访问越南路过北京；并在中南海受到毛泽东的接见--这也是毛泽东最后一次接见苏联党政代表团。
安德罗波夫执政期间积极主张“改善苏中关系”，继承了勃列日涅夫去世前提出的要实现两国关系正常化的方针。但他执政时间短暂，两国关系没有实质性进展。不过，在安德罗波夫出任苏共总书记的一年零三个月里（其中有半年处于急救状态，3个多月在医院的重症病房作透析），他的对内改革得到了苏联群众的广泛支持，被誉为苏联的改革家。
有历史学家指出，如果安德罗波夫的身体状况好一些，或在位时间长一些，不仅中苏关系会提前改善，而且苏联也许就不至于解体了--真的是这样么？
喜爱文学的“克格勃主席”如何登上权力顶峰
斯大林1922年当总书记时43岁，赫鲁晓夫行使最高领导权时58岁，勃列日涅夫1964年从赫鲁晓夫手里“抢”过权力时也是58岁。安德罗波夫当上总书记则是69岁--算得上是苏联历史上最老的新任总书记。
安德罗波夫1914年出生在斯塔夫罗波尔边疆区境内的一个铁路工人家庭，戈尔巴乔夫后来就是该边疆区党委书记。穷人的孩子早当家。安德罗波夫幼年失怙，14岁独立生活，当过搬运工，做过电影放映员和报务员，18岁在伏尔加河上当水手，学到了很多东西。后来他常说：“生活就像湿漉漉的甲板，要想在上面不滑倒，就得一步步慢慢挪，而且每挪一步都要选好下脚的地方。”
水运专科学校毕业后，安德罗波夫进入一家造船厂工作，任工厂共青团组织委员，1939年加入苏联共产党。1954年任苏联驻匈牙利特命全权大使，从此开始他真正的政治生涯。1956年积极参与了匈牙利事件的解决。1957年回莫斯科任苏共中央联络部部长，主管其他社会主义国家相关事务，曾多次随赫鲁晓夫出访东欧国家。赫鲁晓夫下台后，又多次随同勃列日涅夫出访和参加东欧各国共产党的代表大会。
1967年5月，安德罗波夫被任命为苏联部长会议国家安全委员会主席，对内是秘密警察的上司，对外是苏联间谍组织克格勃的主席；一个月后当上政治局候补委员，1973年4月当上政治局委员。1976年安德罗波夫被任命为大将，统帅25万边防军；1980年当选最高苏维埃代表。
勃列日涅夫任命一名党的干部当克格勃头目，显然是为了强化克格勃组织，把它置于党的监督之下。在安德罗波夫的领导下，克格勃人员扩编，预算增加，活动范围扩大。（后来成为俄罗斯总统的普京也曾加入他的队伍）安德罗波夫还提出扩建精神病院、形成全苏联精神病院网络的计划，以此收容反对社会主义制度的“精神病”患者，从而维护苏联的国家制度。
安德罗波夫的这种想法与赫鲁晓夫如出一辙。赫鲁晓夫曾公开宣布，在共产主义条件下，只有精神不正常的人才会犯罪，只有他们才会反对现行社会制度。安德罗波夫还主张把政治犯流放到全苏联最寒冷的雅库斯特的北极圈去，这可以“让他们头脑冷静冷静”。比流放更狠的是驱逐出境。当年柯西金建议将索尔仁尼琴放逐到苏联北部的上扬斯克（俄罗斯最冷的地方之一，也是沙皇政治犯的流放地），安德罗波夫则把索翁驱逐出境。
安德罗波夫能够在勃列日涅夫病逝后接掌苏联，首先是得到了后者的认可。
勃列日涅夫是在二战的出生入死中成长为苏联领导人的，推翻赫鲁晓夫后上台。有一次他出访罗马尼亚，途中念念不忘与当年二战的老朋友于故地欢聚畅饮，讲话稿的任务交给了时任苏共中央书记处书记安德罗波夫。安德罗波夫喜好文学，也有胜人一筹的文字表达能力，他为勃列日涅夫撰写了一篇辞藻极为华美的祝酒词，将那天的欢聚气氛营造得出人意料。勃列日涅夫一直记得此事。安德罗波夫在苏共中央的地位从此快速上升，不久便执掌克格勃，并成为苏共中央政治局候补委员。
勃列日涅夫对安德罗波夫评价极高，不仅因为后者讲话稿写得漂亮--安氏确实是一位有着丰富工作经验的领导干部。勃列日涅夫在一次谈党的建设的讲话中说：“弗拉基米尔•伊里奇•列宁不止一次地强调指出，光是先锋队不可能建成新社会，他说，先锋队只有当它不脱离自己领导的群众并真正引导群众前进时，才能完成其先锋队的任务……在这里，我想用几句话说说一位多年来党的工作把我们与他联系在一起的人，这就是尤里•弗拉基米罗维奇•安德罗波夫。我高度评价他富有党性的谦虚精神、人道主义、实事求是的优秀品质。他经历了共青团和党的工作的漫长而光荣的历程。我非常器重这样的人。”
安德罗波夫因患眼疾一直戴着“蛤蟆镜”，被西方社会看作克格勃总头目的标志。其实他个性鲜明，天赋极高，书卷气浓。只从外表看，安德罗波夫更像一位儒雅学者。
