Он прославился как автор рукописного журнала «Литературная, философская и критическая корреспонденция», который выходил с 1753-го по 1773 годы. Помимо Гримма в нем помещали свои статьи Дидро, Рейналь и многие другие известные философы и литераторы. Журнал рассылался по подписке два раза в месяц полутора десяткам монархов Европы, в том числе с 1764 года Екатерине II.

Екатерина поручила послу во Франции князю Голицыну найти для нее в Париже литературного корреспондента – умного и образованного человека, способного регулярно снабжать ее новостями о культурной и политической жизни тогдашней столицы всей Европы. Такой человек быстро нашелся – им и стал Мельхиор Гримм. Гримм очень скоро стал доверенным лицом Екатерины II, во многом заменив на этом посту Вольтера и Дидро. Недруги его обвиняли в лести и угодничестве. Но как обойтись без этого, если ты состоишь в активной переписке с главой могущественной державы, да к тому же еще с женщиной?

Историк Казимир Валишевский писал, что Гримм в отношении к императрице «принял манеру обожателя, глубоко сознающего собственное ничтожество. Когда Екатерина предложила ему место директора в новой задуманной ею школьной организации, он ловко уклонился от принятия предложения, говоря, что «ему хочется броситься к ногам императрицы и умолять ее оставить его в числе ее собак»... Уезжая в Париж, он увозил с собой неопределенный, но тем более соблазнительный титул императорского агента, при жаловании в две тысячи рублей и чине, соответствующем полковничьему... Гримм вовсе этим не смущался».

Как известно, Екатерина долгое время была поклонницей французских энциклопедистов. И не только потому, что сама была пропитана духом и идеями Просвещения. Здесь был и тонкий политический расчет. Просветители были, среди прочего, ярыми критиками французской монархии. И это было на руку русской императрице, поскольку у нее были весьма напряженные отношения и с кабинетом Людовика XV, и XVI. Французы активно пытались влиять на польские дела, ибо понимали, что всё идет к установлению фактического протектората России над Польшей. Тем не менее, серьезного влияния на государственную деятельность Екатерины Гримм никогда не имел.
Но все-таки Гримм сделал немало полезного для России: он помогал императрице приобретать для Эрмитажа в Европе многочисленные произведения искусства, книжные собрания, в частности Вольтера и Дидро. По рекомендации Гримма Екатериной были приглашены в Петербург архитектор Джакомо Кваренги и композитор Джованни Паизиелло.