La formule que vous essayez d'installer est obsolète. Il existait un annonce le 19 janvier 2018 :
D'ici le 31 mars 2018, nous allons déprécier et archiver le robinet Homebrew/php. Malheureusement, nous n'avons pas été en mesure de maintenir une expérience acceptable et cohérente pour les utilisateurs ou les contributeurs et la charge de travail de l'IC par le biais de formules non essentielles dans l'organisation Homebrew. Nous continuons donc à migrer les formules largement utilisées vers Homebrew/core et encourageons les formules et options plus spécialisées à être prises en charge en dehors de l'organisation Homebrew.
Certaines des extensions PHP sont maintenues par Kevin Abel dans son site web Dépôt Github mais il n'y a pas d'extension mcrypt.
En outre mcrypt est lui-même obsolète et est considéré comme un logiciel abandonné depuis près d'une décennie. Il a été supprimé de PHP 7.2. Lisez cette question de stackoverflow pour des alternatives : mcrypt est obsolète, quelle est l'alternative ?