Eu tive um problema semelhante com um iMac de 2009, meu segundo monitor é conectado através de um adaptador firewire-to-VGA. Tentei de tudo para corrigir esses problemas, redefinir o nvram funcionou após uma reinicialização, mas na próxima vez em que o monitor "dormiu", o problema ocorreu novamente. Quando tentei definir a resolução manualmente, minha resolução (1920x1080) não estava listada, mesmo quando pressionava a tecla 'opção' para mostrar mais resoluções.
Encontrei uma solução neste post de Andreas Schwarz no embdev.net (veja o link em seu código abaixo, não posso postar mais de 2 links) Não foi planejado diretamente para corrigir o problema, mas acontece comigo.
O problema pode ser resolvido substituindo os dados EDID da tela para informar ao OS X que a tela suporta apenas RGB. Isso pode ser feito lendo o EDID com "ioreg -l", modificando os bits incorretos (consulte a especificação no artigo da Wikipedia) e criando um arquivo de substituição de configuração de exibição para o OS X.
Ele então forneceu um script ruby para criar esse arquivo de substituição:
#!/usr/bin/ruby
# Create display override file to force Mac OS X to use RGB mode for Display
# see http://embdev.net/topic/284710
#
# Update 2013-06-24: added -w0 option to prevent truncated lines
require 'base64'
data=`ioreg -l -w0 -d0 -r -c AppleDisplay`
edid_hex=data.match(/IODisplayEDID.*?<([a-z0-9]+)>/i)[1]
vendorid=data.match(/DisplayVendorID.*?([0-9]+)/i)[1].to_i
productid=data.match(/DisplayProductID.*?([0-9]+)/i)[1].to_i
puts "found display: vendorid #{vendorid}, productid #{productid}, EDID:\n#{edid_hex}"
bytes=edid_hex.scan(/../).map{|x|Integer("0x#{x}")}.flatten
puts "Setting color support to RGB 4:4:4 only"
bytes[24] &= ~(0b11000)
puts "Number of extension blocks: #{bytes[126]}"
puts "removing extension block"
bytes = bytes[0..127]
bytes[126] = 0
bytes[127] = (0x100-(bytes[0..126].reduce(:+) % 256)) % 256
puts
puts "Recalculated checksum: 0x%x" % bytes[127]
puts "new EDID:\n#{bytes.map{|b|"%02X"%b}.join}"
Dir.mkdir("DisplayVendorID-%x" % vendorid) rescue nil
f = File.open("DisplayVendorID-%x/DisplayProductID-%x" % [vendorid, productid], 'w')
f.write '<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE plist PUBLIC "-//Apple//DTD PLIST 1.0//EN" "http://www.apple.com/DTDs/PropertyList-1.0.dtd">
<plist version="1.0">'
f.write "
<dict>
<key>DisplayProductName</key>
<string>Display with forced RGB mode (EDID override)</string>
<key>IODisplayEDID</key>
<data>#{Base64.encode64(bytes.pack('C*'))}</data>
<key>DisplayVendorID</key>
<integer>#{vendorid}</integer>
<key>DisplayProductID</key>
<integer>#{productid}</integer>
</dict>
</plist>"
f.close
A execução desse script no terminal com 'ruby patch-edid.rb' cria uma pasta chamada "DisplayXXX"
mova a pasta contida para / System / Library / Displays / Overrides. Após uma reinicialização, o monitor deve mostrar que as cores RGB são usadas.
Depois de reiniciar, a resolução não estava correta, mas consegui definir a correta nas configurações de exibição.
~/Library/Application Support/Preferences/com.apple.desktop.plistnão está sendo atualizado. Mas não tenho certeza se é onde está sendo armazenado.