kgdb: core changes to support kdb
authorJason Wessel <jason.wessel@windriver.com>
Fri, 21 May 2010 02:04:21 +0000 (21:04 -0500)
committerJason Wessel <jason.wessel@windriver.com>
Fri, 21 May 2010 02:04:21 +0000 (21:04 -0500)
commitdcc7871128e99458ca86186b7bc8bf27ff0c47b5
treee10d252ccc4e990aac7dd09f44b94cfe045adc6b
parent67fc4e0cb931d6b4ccf21248e4199b154478ecea
kgdb: core changes to support kdb

These are the minimum changes to the kgdb core in order to enable an
API to connect a new front end (kdb) to the debug core.

This patch introduces the dbg_kdb_mode variable controls where the
user level I/O is routed.  It will be routed to the gdbstub (kgdb) or
to the kdb front end which is a simple shell available over the kgdboc
connection.

You can switch back and forth between kdb or the gdb stub mode of
operation dynamically.  From gdb stub mode you can blindly type
"$3#33", or from the kdb mode you can enter "kgdb" to switch to the
gdb stub.

The logic in the debug core depends on kdb to look for the typical gdb
connection sequences and return immediately with KGDB_PASS_EVENT if a
gdb serial command sequence is detected.  That should allow a
reasonably seamless transition between kdb -> gdb without leaving the
kernel exception state.  The two gdb serial queries that kdb is
responsible for detecting are the "?" and "qSupported" packets.

CC: Ingo Molnar <mingo@elte.hu>
Signed-off-by: Jason Wessel <jason.wessel@windriver.com>
Acked-by: Martin Hicks <mort@sgi.com>
arch/arm/kernel/kgdb.c
arch/mips/kernel/kgdb.c
arch/powerpc/kernel/kgdb.c
arch/x86/kernel/kgdb.c
include/linux/kgdb.h
kernel/debug/debug_core.c
kernel/debug/debug_core.h
kernel/debug/gdbstub.c
lib/Kconfig.kgdb