Прежде чем вы сможете установить MySQL gem, вам нужно установить пакеты разработки Fedora для Ruby и MySQL. Попробуйте:
$ sudo yum -y install gcc mysql-devel ruby-devel rubygems
а затем повторите попытку:
$ sudo gem install mysql -- --with-mysql-config=/usr/local/mysql/bin/mysql_config
(также проверьте, что /usr/local/mysql/bin является правильным расположением для mysql_config, вместо него может быть /usr/bin.)