Đức Giáo Hồng Piơ XII đã tiếp tục truyền thống của các giáo hoàng tiền nhiệm,
muốn giáo triều chứng tỏ sức mạnh và quyền lực của mình trên cả thế giới. Các Kitô Hữu Tin Lành và các người khác thường cho rằng đức giáo hồng, và người
Cơng Giáo nói chung, hay đắc thắng, kiêu ngạo đề cao sự vinh hiển và quyền lực thần thánh của Giáo Hội Công Giáo mà không nhận ra sự yếu đuối và khuyết điểm của con người. Vì lý do này, Giáo Hội Cơng Giáo khơng được sự tin tưởng của những người bên ngoài giáo hội khi họ thấy các giáo hoàng và Giáo Hội Công Giáo cũng chỉ là một tổ chức con người và cũng phạm tội.
Vị giáo hồng thay đổi tồn thể hình ảnh của Giáo Hội Cơng Giáo trong cái nhìn của thế giới là Ðức Gioan XXIII. Trong khi các giáo hồng trước đây mang hình ảnh của một đấng vị vọng và ngay cả xa cách với người dân, Ðức Gioan XXIII là một người vui tính, thật tự nhiên, yêu quý đời sống cũng như dân chúng và ngài không ngần ngại bộc lộ điều ấy. Ðó là một ơng cụ bảy mươi sáu tuổi thường mời bạn hữu đến dùng cơm, hay lang thang trên đường phố Rôma để chuyện trị với dân chúng, ln đến thăm các bệnh viện và nhà tù, và thường kể chuyện vui làm mọi người đều thích thú. Người Cơng Giáo và Kitơ Hữu nói chung đều hân hoan khi thấy đức giáo hoàng cũng là một con người bình thường, và ngài đã chinh phục được nhiều tâm hồn cũng như sự trung kiên của nhiều người.
Tuy nhiên, thật sai lầm khi nghĩ rằng Ðức Giáo Hoàng Gioan XXIII là một người hiểu biết tầm thường. Ðiều nổi bật trong triều đại ngắn ngủi của ngài là sự tin cậy vào Thiên Chúa và cái nhìn sáng suốt của ngài. Thay vì cơng khai chống đối cộng sản, hoặc bất cứ chính thể nào, Ðức Gioan XXIII tìm cách hịa giải và chuyển trao thơng điệp của ngài đến với mọi người: Pacem in Terris (Hồ Bình Trên Thế Giới) và Mater et Magister về trật tự xã hội. Ngài kêu gọi mọi người hãy cùng nhau làm việc để xây dựng một thế giới tốt đẹp hơn, phù hợp với các ngun tắc về cơng bằng và ích lợi chung mà đã được mọi người công nhận.
Ðức Gioan XXIII còn là người mở đường cho phong trào đại kết, tái hợp nhất mọi Kitô Hữu. Vào đầu thế kỷ mười chín, sự lưu tâm mạnh mẽ đến vấn đề đại kết được phát sinh trong công cuộc truyền giáo của Tin Lành. Họ thấy thật
dại dột và hổ thẹn khi các giáo phái Kitô Giáo khác nhau lại tranh dành các lãnh thổ truyền giáo. Các tổ chức nổi tiếng như “Faith and Order” (1925) và “Life and Work” (1927) cố gắng đem người Tin Lành lại với nhau trên phương diện học thuyết và phục vụ. Vào năm 1948, các tổ chức này kết hợp thành tổ chức duy nhất “World Council of Churches“. Giáo Hội Cơng Giáo vẫn đứng tách biệt khơng dính dáng gì đến sinh hoạt đại kết này, vì cho rằng các người Tin Lành phải giải quyết các mâu thuẫn của họ trước khi thảo luận về sự tương giao với Giáo Hội Cơng Giáo. Các giáo hồng tiền nhiệm cho rằng Ðức Giêsu chỉ thiết lập một đức tin và một giáo hội thực, là Giáo Hội Công Giáo. Trong khi khơng từ chối tính cách độc đáo của Giáo Hội Cơng Giáo, Ðức Gioan XXIII nhận thức rằng người Công Giáo phải đến với các Kitô Hữu khác và cộng tác với họ để tìm kiếm sự hiệp nhất mà Ðức Giêsu đã mong muốn cho dân của Ngài. Ðức Gioan XXIII đặc biệt yêu quý Giáo Hội Chính Thống Giáo, vì ngài từng là đại diện đức giáo hồng ở vùng Cận Ðơng. Khi đến lúc triệu tập công đồng, Ðức Gioan XXIII đã mời các quan sát viên từ mọi truyền thống Kitơ Giáo, và đón nhận các ý kiến cũng như suy tư của họ về diễn tiến của công đồng.