Thiết lập quan hệ với Trung Quốc là vấn đề được Chính phủ Ấn Độ rất chú trọng bởi quốc gia láng giềng này có vị thế chính trị rất lớn ở châu Á và trên thế giới. Do vậy, sau khi giành được quyền tự trị, Thủ tướng J. Nehru nhiều lần đánh giá cao sự cần thiết phải thiết lập mối quan hệ hữu nghị và hợp tác với Trung Quốc. Tháng 4/1950, hai nước Trung - Ấn thiết lập quan hệ ngoại giao ở cấp đại sứ. Tháng 6/1950, khi Mỹ thao túng Hội đồng Bảo an thông qua nghị quyết về cuộc chiến tranh Triều Tiên, Ấn Độ tuyên bố ủng hộ Trung Quốc, đồng thời chủ trương khôi phục địa vị hợp pháp của Trung Quốc tại tổ chức này.Ấn Độ cũng ủng hộ lập trường của Bắc Kinh về vấn đề Đài Loan, coi Đài Loan là một bộ phận không thể tách rời của Cộng hòa Nhân dân Trung Hoa. Điều này đồng nghĩa với việc Ấn Độ phủ nhận vị trí của Đài Loan đại diện cho Trung Quốc trong Hội đồng Bảo an. Về điều này, Thủ tướng J. Nehru khẳng định: “…Một nước lớn như Trung Quốc lại dường như không tồn tại mà chỉ có một hòn đảo nhỏ bé nằm kề cận duyên hải Trung Quốc mới được chấp nhận là đại diện cho cả Trung Quốc” [34, tr.77].
Những hành động đầy thiện chí ấy đặt nền tảng cho quan hệ tốt đẹp của hai nước, đồng thời chứng tỏ sự tiến bộ trong chính sách đối ngoại củaẤn Độ giai đoạn này. Tuy nhiên, đây cũng là giai đoạn quan hệ hai nước phải đối mặt với nhiều khó khăn thách thức gay gắt, đặc biệt là vấn đề Tây Tạng.
Mầm mống xung đột biên giới Trung-Ấn cũng bắt đầu xuất hiện khi Trung Quốc giải phóng Tây Tạng (10/1950), Dalai Lama chạy sang Ấn Độ. Thủ tướng J. Nehru một mặt thừa nhận Tây Tạng thuộc chủ quyền của Trung Quốc, mặt khác cũng tỏ ý thương lượng với Trung Quốc để dành cho Tây Tạng vị trí tự trị, độc lập trong một nước Trung Quốc. Đáp lại, Trung Quốc lập tức tuyên bố Ấn Độ theo đuôi chủ nghĩa thực dân chống lại họ và yêu cầu xét lại đường biên giới McMahon giữa hai nước. Trung Quốc không thừa nhận đường McMahon(Chú giải 6) vì nó là sản phẩm của chủ nghĩa thực dân. Trước tình hình đó, Thủ tướng J. Nehru khẳng định
tại Quốc hội rằng, Ấn Độ công nhận Cộng hòa Nhân dân Trung Hoa không có nghĩa là công nhận quan điểm của nước này về đường biên giới.
Sau nhiều cuộc hội đàm, Hiệp định về Thương mại và Bưu điện giữa Ấn Độ và khu Tây Tạng của Trung Quốc ký ngày 29/4/1954 được coi là sự công nhận của Ấn Độ đối với chủ quyền của Trung Quốc ở Tây Tạng và gián tiếp xác nhận một số đèo núi làm mốc biên giới giữa hai nước. Chuyến thăm của hai thủ tướng năm 1954 cho thấy đều mong muốn của cả hai bên là củng cố tình hữu nghị hợp tác, thúc đẩy hòa bình, an ninh ở châu Á và thế giới. Thủ tướng Chu Ân Lai và Thủ tướng J. Nehru đã thống nhất “Năm nguyên tắc chung sống hòa bình”(Chú giải 7) làm cơ sở cho việc hoạch định vấn đề biên giới và quan hệ hai nước; trở thành nền tảng trong chính sách đối ngoại của Ấn Độ. Với 5 nguyên tắc này, cả hai nước đều hy vọng rằng tình hữu nghị Trung - Ấn sẽ giúp cho châu Á đứng ngoài cuộc Chiến tranh lạnh, làm dịu tình hình căng thẳng trên thế giới; giảm bớt nguy cơ một cuộc chiến tranh thế giới [1]. Như vậy, dù xuất hiện bất đồng chủ yếu về vấn đề Tây Tạng, quan hệ Trung - Ấn nhìn chung vẫn khá thân thiện, hữu nghị. Cả hai đều mong muốn phát triển quan hệ, dựa vào nhau để phát huy ảnh hưởng trong thế giới thứ ba, chống lại sức ép và những mưu toan của các thế lực đế quốc, phù hợp với lợi ích của hai nước, và hòa bìnhở châu Á cũng như thế giới.
Sau khi J. Stalin mất, quan hệ Xô- Trung bắt đầu xuất hiện những bất đồng, rạn nứt. Trong bối cảnh đó, sự thắt chặt quan hệ Ấn Độ - Liên Xô qua các cuộc viếng thăm liên tiếp của các lãnhđạo cấp cao hai nước trong năm 1955 có phần đe dọa vị thế của Trung Quốc ở châu Á. Tình hình trên tạo nên những thay đổi trong nhận thức chiến lược của Trung Quốc, nhu cầu xác định vị thế trong phe xã hội chủ nghĩa và tìm kiếm vị thế mới ở thế giới thứ ba trở nên cấp bách.
Tháng 12/1957, Trung Quốc công bố bản đồ mới trong đó xác định lại đường biên giới với Ấn Độ. Đến tháng 7/1958, Thủ tướng Chu Ân Lai chính thức gửi thư cho Thủ tướng J. Nehru không thừa nhận đường biên giới McMahon và đòi chủ quyền với một vùng lãnh thổ rộng khoảng 90.000 km2 đang thuộc về Ấn Độ. Ngày 25/8/1959, nhân lúc đàn áp cuộc đấu tranh đòiđộc lập của Tây tạng, Trung Quốc đem quân lấn sâu sang biên giới phía Đông của Ấn Độ, đẩy nhanh quá trình
xung đột biên giới hai nước [12, tr.45]… Có thể thấy, Trung Quốc đang gây sức ép cả chính trị lẫn quân sự với Ấn Độ nhằm đòi lại vùng đất hiện đang thuộc chủ quyền của Ấn Độ.
Ngày 7/11/1959, Trung Quốc đẩy mạnh hành động quân sự, mở con đường chiến lược nối liền Tân Cương với Tây Tạng cắt qua lãnh thổ Kashmir, biến một vùng lãnh thổ ở Akshi Chin rộng khoảng 36.000km2 thành lãnh thổ Trung Quốc. Từ năm 1959 đến 1962, mâu thuẫn biên giới Ấn- Trung ngày càng gay gắt đến mức không thể kiểm soát. Trong giai đoạn này, hợp tác quân sự và thương mại Xô - Ấn tăng nhanh càng khiến cho Trung Quốc có cơ sở để cho rằng Liên Xôủng hộ Ấn Độ.
Sau nhiều cuộc hội đàm thất bại, ngày 20/10/1962, Trung Quốc đơn phương phát động cuộc chiến tranh quy mô lớn trên toàn tuyến biên giới Ấn Độ. Qua một tháng tấn công và tiến sâu vào lãnh thổ Ấn Độ cách đường McMahon từ 80km đến 100km, ngày 21/11/1962, Trung Quốc tuyên bố ngừng bắn và rút quân về đường kiểm soát ngày 7/11/1959. Thực tế, với ưu thế về quân sự của mình, sự chủ quan về
“bức tường thành Himalaya không thể công phá” của J. Nehru, Trung Quốc đã giành thắng lợi áp đảo đối với Ấn Độ. “Đường kiểm soát ngày 7/11/1959” trở thành biên giới thật sự giữa hai nước đến tận ngày nay [12, tr.47].
Sau năm 1962, quan hệ hai nước vẫn tiếp tục xấu đi. Trung Quốc chuyển sang thân thiện với Pakistan, gây sức ép và kiềm chế Ấn Độ. Tháng 3/1963, Trung Quốc và Pakistan ký Hiệp định biên giới (Chú giải 8), trong đó Trung Quốc tuyên bố thừa nhận quyền kiểm soát của Pakistan ở Kashmir và vấn đề tranh chấp Kashmir là có tồn tại. Ấn Độ phản đối Hiệp định và không thừa nhận giá trị pháp lý của nó. Song song với việc ủng hộ chính trị, Trung Quốc còn tích cực viện trợ kinh tế và quân sự cho Pakistan, lôi kéo nước này chuẩn bị Hội nghị Á- Phi lần 2, nhằm cô lập Ấn Độ và Liên Xô trong Phong trào không liên kết. Từ năm 1964, Trung Quốc tuyên bố hoàn toàn ủng hộ Pakistan trong vấn đề Kashmir và trong trường hợp Pakistan bị tấn công bất cứ từ phía nào.
Như vậy, từ quan hệ thân thiện dựa trên những nét tương đồng xuất phát từ lợi ích của cả hai nước trong bối cảnh Chiến tranh lạnh, quan hệ Ấn Độ - Trung
Quốc trở nên căng thẳng thậm chí là thù địch từ chiến tranh Trung -Ấn năm 1962. Với Ấn Độ, sau cuộc xung đột biên giới, Ấn Độ luôn cảnh giác và hoài nghi chính sách của Trung Quốc, và cho rằng đây là mối nguy cơ tiềm tàngở phương bắc. Để đối phó với nguy cơ đó, Ấn Độ tăng cường quan hệ với Liên Xô và dần cải thiện quan hệ với Mỹ. Mặt khác, Ấn Độ tăng cường đầu tư xây dựng, củng cố nền quốc phòng hiện đại, đảm bảo an ninh biên giới phía Bắc trong sự nghiệp củng cố độc lập dân tộc.