Похоже, вы установили rubygems из пакета Debian / apt-get.
Если вы используете Ubuntu 9.04 или новее, это может сработать:
sudo gem install rubygems-update
sudo update_rubygems
В противном случае удалите пакет и установите rubygems из исходного кода, что в любом случае рекомендуется для установки rubygems:
sudo apt-get remove rubygems
wget http://rubyforge.org/frs/download.php/60718/rubygems-1.3.5.tgz
tar xzvf rubygems-1.3.5.tgz
cd rubygems-1.3.5
sudo ruby setup.rb
sudo ln -s /usr/bin/gem1.8 /usr/bin/gem
sudo gem update --system
Дополнительные ресурсы: Установка Ruby on Rails на Ubuntu .