Quanto a resolução máxima teórica para um sensor, isso é fato e depende do tamanho do pixel. Ele não pode ser menor do que o comprimento de onda da cor em questão, se for menor, simplesmente ele fica cego para essa cor. Então existe um limite físico real e intransponível. Se pegarmos o violeta como extremo, digamos 400nm a coisa para mais ou menos por ai. Só que tem o isolamento elétrico entre os pixeis e outras coisas mais, então na prática é bem maior do que 400nm, o quanto maior depende da tecnologia no momento. Então não espere pixeis de 0,1 micron porque não dá.
Só que para capturar o vermelho extremo, o tamanho do pixel fica limitado a um mínimo de 750 nm mais ou menos. Incluindo os isolamentos e tal, arrendondando para 760 nm talvez ou 0.76 micra aí é só fazer as contas e calcular o limite máximo teórico.
Mas lembrem que tem também o problema da velocidade de leitura, do ruído (quanto menor o pixel mais ruido) e a propria resolução das lentes. Ninguém vai fazer um sensor FF de 200 MP se correr o risco de dar dor de cabeça...
Para referencia a A7 IV de 33MP FF tem pixel de 5.12 micra = 5120 nanometros