Isso é mais um comentário e uma opinião filosófica, mas não acredito que haja problemas que uma IA não possa resolver, que um humano possa. Sendo novo neste fórum, não posso comentar a questão (e provavelmente seria muito longo) - peço seu perdão preventivamente.
A IA eventualmente imitará seres humanos (e os superará)
Os seres humanos, por natureza, são lógicos. A lógica é aprendida ou conectada e influenciada pela observação e por impulsos químicos.
Enquanto uma IA puder ser treinada para agir como um humano, ela poderá agir como um. Atualmente, esses comportamentos são limitados à tecnologia (espaço, conexões, etc.), que o cérebro humano foi otimizado para descartar ou desconsiderar certos "fluff" automaticamente, permitindo certas super capacidades. Por exemplo, nem tudo o que é visto é registrado através do cérebro; frequentemente, o cérebro realiza comparações e atualizações diferenciais para alterações para reduzir o tempo e a energia do processamento. Será apenas uma questão de tempo até que a IA também possa ser programada para se comportar dessa maneira, ou os avanços tecnológicos permitirão que ela não precise de parte dessa função, o que permitirá ultrapassar os seres humanos.
No estado atual, reconhecemos que os humanos às vezes são irracionais ou inconsistentes. Nesses casos, a IA pode imitar as limitações humanas com padrões de randomização configurados, mas, novamente, não haverá realmente uma necessidade, pois ela pode ser programada e aprender esses padrões automaticamente (se necessário).
Tudo se resume ao consumo de dados, retenção de informações e correções aprendidas. Portanto, não há nenhum problema que um ser humano possa executar (que eu saiba) que a IA nunca poderia, teoricamente, executar. Mesmo no caso da química. Como fabricamos alimentos e órgãos, uma IA também poderia, teoricamente, um dia se reproduzir e sobreviver por funções biológicas.
Em vez de a pergunta ser binária entre capacidade humana e inteligência artificial, eu estaria mais interessado em ver o que as pessoas pensam serem as coisas mais desafiadoras que os humanos podem fazer, o que levará tempo para a IA realizar.