Как закрыть модальный JDialog, когда пользователь нажимает за пределами JDialog?

РЕДАКТИРОВАТЬ: Изменено использование WindowFocusListener вместо FocusListener, а также проверка нисходящих компонентов на потерянном фокусе, чтобы не скрыть, если дочерний компонент получает фокус.

Простым способом было бы добавить прослушиватель фокуса окна в диалог, который скрывает его при потере фокуса. Я не вижу необходимости в модальности в этом случае. Например:

import javax.swing.*;
import java.awt.*;
import java.awt.event.WindowEvent;
import java.awt.event.WindowFocusListener;
import java.awt.event.ActionListener;
import java.awt.event.ActionEvent;

public class ClickAwayDialog extends JDialog {

    public ClickAwayDialog(final Frame owner) {
        super(owner);
        JPanel pnl = new JPanel(new BorderLayout());
        pnl.add(new JLabel("Click outside this dialog in the parent frame to close it"), BorderLayout.NORTH);
        JButton btn = new JButton("Click Me");
        btn.addActionListener(new ActionListener() {
            public void actionPerformed(ActionEvent e) {
                JOptionPane.showMessageDialog(ClickAwayDialog.this, "New Child Window");
            }
        });
        pnl.add(btn, BorderLayout.CENTER);
        this.setContentPane(pnl);
        this.pack();
        this.setDefaultCloseOperation(WindowConstants.DISPOSE_ON_CLOSE);
        this.setLocationRelativeTo(owner);
        this.setAlwaysOnTop(true);
        this.addWindowFocusListener(new WindowFocusListener() {

            public void windowGainedFocus(WindowEvent e) {
                //do nothing
            }

            public void windowLostFocus(WindowEvent e) {
                if (SwingUtilities.isDescendingFrom(e.getOppositeWindow(), ClickAwayDialog.this)) {
                    return;
                }
                ClickAwayDialog.this.setVisible(false);
            }

        });
    }

    public static void main(String[] args) {
        SwingUtilities.invokeLater(new Runnable() {
            public void run() {
                JFrame parent = new JFrame();
                parent.setDefaultCloseOperation(WindowConstants.DISPOSE_ON_CLOSE);
                parent.setSize(300, 300);
                parent.setLocationByPlatform(true);
                parent.setVisible(true);
                ClickAwayDialog dlg = new ClickAwayDialog(parent);
                dlg.setVisible(true);                
            }
        });
    }
}

На самом деле это не модальное диалоговое окно, тогда, если щелкнуть еще там, где он закрывается, возможно, вы захотите setAlwaysOnTop

Однако что-то вроде следующего должно помочь (не проверено). Обратите внимание, я бы порекомендовал переместить код во что-то более продуманное, чем использование, как указано.

static JDialog dialog = ...

Toolkit.getDefaultToolkit().addAWTEventListener(new AWTEventListener() {
    public void eventDispatched(AWTEvent e) {
        dialog.setVisible(false);

        SwingUtils.invokeLater(new Runnable(){
            public void run(){
                Toolkit.getDefaultToolkit().removeAWTEventListener(this);
            }
        });        
    }
}, AWTEvent.MOUSE_EVENT_MASK);

dialog.setVisible(true);

Вероятно, добавить FocusListener и скрыть диалог когда теряет фокус. Может быть сложно, если некоторые элементы в диалоговом окне могут иметь фокус. В любом случае, поэкспериментируйте.

Используйте WindowListener и обработайте событие windowDeactivated ().

Необязательно быть модальным диалогом (модальный означает, что он не позволяет вам использовать окно владельца, пока вы не скроете диалог). Лучше попробуйте следующее:

final JDialog dlg ...
dlg.setModal(false);

dlg.addWindowFocusListener(new WindowFocusListener() {            
    public void windowLostFocus(WindowEvent e) {
        dlg.setVisible(false);
    }            
    public void windowGainedFocus(WindowEvent e) {
    }
});