Re-init VNC extension on server reset

fc23895 blocked out a bit too much code when trying to make
libvnc handle server resets. Even though configuration should
only be handled once, the underlying VNC extension needs to
be reinitilised as the X core has removed all extensions on
reset.

We need to set a label on all pointer buttons

Merge branch 'pixeltest' of https://github.com/CendioOssman/tigervnc

Merge branch 'cleanup' of https://github.com/CendioOssman/tigervnc

Remove a lot of platform compatibilty stuff

It's either not used, or no longer relevant.

Remove remnants of Windows only client

Fix some offenders that poke around in the PixelFormat internals

Avoid code duplication for the linear pixel format conversion methods

Consistent use of stride vs pitch

Consistently use the term stride rather than pitch. Also
consistently represent the stride in number of pixels rather
than number of bytes. There is so much code that assumes
proper alignment already that we do not need the extra resolution.

Fix possible information leakage

Zero the padding byte used when converting 24-bit RGB to 32-bit.

Use the same algorithm for conversions

Make sure that the routines that convert between buffer
and rgb representations follow the same algorithm so it's
easier to compare them.

Optimise the RGB to pixel conversion to simple shifts

Might as well make it inline at this point as well as it is used
heavily in other routines that convert entire blocks of pixels.

Remove magic JPEG variables from ConnParams

Custom compression level and JPEG on/off are not inherent parts of
the protocol negotiation so they do not belong in ConnParams. Let the
UI frontend handle such things instead.

Clean up the encoding parser in ConnParams

Make the subsampling setting follow the common style

Remove some premature optimisation

Reduces header dependencies.

Add some missing whitespace

Stop storing a copy of the encodings as we don't use it for anything

Get rid of the register mechanism for encoders and decoders

We have no use for it, so let's keep things simple.

Be more consistent in referring to pixel byte streams as buffers

Document the different pixel representations that we deal with

Get rid of unused things in the ZRLE encoder

Get rid of unused shared MemOutStream and variable max length
functionality in the ZRLE encoder.

Remove unused method prototype

Remove all unused TX widgets

Remove the scaled pixel buffer classes as they are not used.

There were also reports of them being broken last time we still
made use of them.

Remove unused (and commented out) PixelBuffer::getPixel()

Remove unused alternative code path from the ZRLE and Hextile decoders

Remove unused pixel conversion method

Remove unsused, commented out code

Clean up header dependencies in the vncviewer directory

Reduce dependencies on TransImageGetter.h

Support keeping libjpeg's default compression setting

Check that we have a cursor to restore

Forgot to check that we actually have a cursor from the server
before trying to switch back to it after dismissing the context menu.

Converting to RGB might involve a precision increase

Need to do more than a simple shift to get the appropriate
new value. This isn't quite as exact as a proper multiplication
and division, but the error is so small it's not worth the
extra cycles.

Add pixel conversion speed test

Add a tests directory where we can put tests programs that can
be useful during testing. Start with a speed test for the pixel
conversion routines.

librfb needs librdr so make sure it always gets pulled in

Make sure we check that PixelFormats we get are actually valid.

Embedded applet should not show server dialog

Accidentally removed some code in the previous commit.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5186 3789f03b-4d11-0410-bbf8-ca57d06f2519

Add XDAMAGE support to x0vncserver. Makes it more efficient
and more responsive to changes.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5185 3789f03b-4d11-0410-bbf8-ca57d06f2519

Add a global event handler so that we can intercept custom events
that aren't for a specific window.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5184 3789f03b-4d11-0410-bbf8-ca57d06f2519

Fixed dependency problems with ubuntu precise build. Added ubuntu trusty package.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5183 3789f03b-4d11-0410-bbf8-ca57d06f2519

Fix typos in r5181

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5182 3789f03b-4d11-0410-bbf8-ca57d06f2519

Add missing dependencies to ubuntu builds that cause cut-copy-paste issues

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5181 3789f03b-4d11-0410-bbf8-ca57d06f2519

Remove comment about service mode not working; bug 135 was fixed a while ago.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5178 3789f03b-4d11-0410-bbf8-ca57d06f2519

Ubuntu's upstream fltk package contains patches that conflict with Pierre's patches. Building with vanilla fltk instead.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5177 3789f03b-4d11-0410-bbf8-ca57d06f2519

Removed shell dependency from el6 vncserver init script. Fixes bug tracker bug #141.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5176 3789f03b-4d11-0410-bbf8-ca57d06f2519

This list isn't properly maintained so let's add a disclaimer.
People looking for proper attribution will have to check individual
files and repository history.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5172 3789f03b-4d11-0410-bbf8-ca57d06f2519

We don't want to lose the checks performed by assert() in release builds
so make sure we remove NDEBUG. Based on work by Tim Waugh for Red Hat.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5168 3789f03b-4d11-0410-bbf8-ca57d06f2519

The ZRLE decoder relied on an assert() for boundary checks. A default
Release build however will remove all asserts making it possible to
overrun this buffer. This could be exploited by a malicious server.
This issue has been assigned CVE-2014-0011. Patch by Tim Waugh for
Red Hat.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5167 3789f03b-4d11-0410-bbf8-ca57d06f2519

Applied patch from Alois Mahdal <amahdal@redhat.com>:

missing ending quote in 10-libvnc.conf

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5162 3789f03b-4d11-0410-bbf8-ca57d06f2519

Applied patch from:

Koichiro IWAO <meta@vmeta.jp>

Option for disabling build of vncviewer.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5161 3789f03b-4d11-0410-bbf8-ca57d06f2519

Fixes problems with cmake detection of GnuTLS.  The current CMakeLists.txt uses check_function_exists to identify legacy versions of GnuTLS but cmake performs this test by linking a small test program.  If libgnutls, libgcrypt, or libgpg-error are outside the default library search path, linking the test program fails even though gnutls and it's dependencies are installed.  This patch makes it possible to specify the location of each of the three libraries independently and only as needed.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5160 3789f03b-4d11-0410-bbf8-ca57d06f2519

Removes VeNCrypt-checkbox from the security page in the WinVNC options. Fixes bug #142.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5159 3789f03b-4d11-0410-bbf8-ca57d06f2519

Make WinVNC service mode work on Windows Vista and beyond.
Patch by Jochen Tucht, fixes bug 135.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5158 3789f03b-4d11-0410-bbf8-ca57d06f2519

Removes the additional padding reserved for the menubar and enables drag undocking for the java applet when served from Windows.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5157 3789f03b-4d11-0410-bbf8-ca57d06f2519

r5142 and r5149 borrowed code from the TurboVNC viewer, which has different Configuration parameter logic. This caused an exception in the usage() method

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5156 3789f03b-4d11-0410-bbf8-ca57d06f2519

r5138 did not completely resolve the problem with clipboard data consuming too much heap space.  Large amounts of clipboard data could still cause the heap size to grow to huge sizes.  This patch tries to address the problem by opening a Reader to the underlying IO stream and then reading only up to MaxCutText characters.  The garbage collector is invoked manually rather than waiting for the JVM to do it in order to prevent the heap size from growing in between JVM invoked garbage collections.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5155 3789f03b-4d11-0410-bbf8-ca57d06f2519

Fixes for modality issues & dialog behavior in embedded mode.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5154 3789f03b-4d11-0410-bbf8-ca57d06f2519

Moved OS X setDockIconImage call into VncViewer.setLookAndFeel so that the dockImage gets set faster.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5153 3789f03b-4d11-0410-bbf8-ca57d06f2519

Make sure the fill function pointer gets updated if the
managed pixel buffer changes format. Also add a bit more
protection for switching pixel format as the base classes
aren't really designed for that. Fixes a crash with the
mouse pointer in WinVNC.
Based on work done by Daniel Wyatt (dewyatt).

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5152 3789f03b-4d11-0410-bbf8-ca57d06f2519

Set the dock icon on OS X.  Not perfect as it still shows the standard Java logo for a second or two, but better than nothing

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5151 3789f03b-4d11-0410-bbf8-ca57d06f2519

Release all downKeys when the focus is lost, otherwise the state of the keyboard will be inconsistent when the focus is regained.  Also, the direction of the key release was incorrect in r5147.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5150 3789f03b-4d11-0410-bbf8-ca57d06f2519

Re-introduces embedded applet mode for the java viewer. On Windows and Linux, the embedded applet can be dragged from the browser window and detached from the browser process.  The mouse gesture for detaching the applet is ALT+drag on Windows and SHIFT+drag on Linux.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5149 3789f03b-4d11-0410-bbf8-ca57d06f2519

Updated copyright notices

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5148 3789f03b-4d11-0410-bbf8-ca57d06f2519

Another overhaul of the key event handlers. There was a fundamental flaw in the previous implementation due to the fact that java key modifiers associated with a key_pressed or key_released event are reported with respect to each particular event.  Thus, for example a key sequence of CTRL press, letter press, CTRL release, letter release never sends the corresponding release for the CTRL+letter down event.  Key events are now synchronized on a monitor object to help ensure that the key sequence is preserved.  This implementation mirrors the fltk viewer quite closely and, as far as I can tell, is capable of sending all of the same keysyms.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5147 3789f03b-4d11-0410-bbf8-ca57d06f2519

Added rpm spec file & sources for building Suse linux packages to contrib folder

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5146 3789f03b-4d11-0410-bbf8-ca57d06f2519

Added attributes to the Java viewer MANIFEST file in order to conform to upcoming JRE requirements.  Added support for specifying a signing certificate in place of the self-signed certificate.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5145 3789f03b-4d11-0410-bbf8-ca57d06f2519

Fix regression in java install path introduced in r5143

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5144 3789f03b-4d11-0410-bbf8-ca57d06f2519

Fixed incorrect ConnParam initial value in CConn constructor.  Thanks to Pierre for pointing that out.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5143 3789f03b-4d11-0410-bbf8-ca57d06f2519

Copied Lion fullScreen code from TurboVNC viewer.  This is a more robust implementation and does not suffer from Java bugs 8009911 or 4783448 like the existing code did. CMakeLists file was also updated to be more similar to the TurboVNC cmake file.  This wasn't strictly necessary but it simplifies things a bit.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5142 3789f03b-4d11-0410-bbf8-ca57d06f2519

Correct location of scripts from last commit

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5141 3789f03b-4d11-0410-bbf8-ca57d06f2519

Added script to fetch rpm sources (requires curl)

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5140 3789f03b-4d11-0410-bbf8-ca57d06f2519

Added 'contrib' folder to store patches necessary to build external dependecies, distribution-specific packaging files, etc.  Also added a delimiter to the end of the fltk patch script defined in BUILDING.txt to make it easier to parse this script out for automated builds.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5139 3789f03b-4d11-0410-bbf8-ca57d06f2519

Fixes a condition where too much data on the local clipboard causes the client to exceed the max heap size and exit.  Since the server will, by default, discard clipboard transfers greater than 256KB anyway, a parameter was added which sets the default max clipboard size that the client will hold to 256KB also.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5138 3789f03b-4d11-0410-bbf8-ca57d06f2519

Some applications probe for clipboard formats using the
trial-and-error method rather than asking for TARGETS. We
need to make sure we properly report unsupported formats
back to these.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5137 3789f03b-4d11-0410-bbf8-ca57d06f2519

Applied DRC's patch to fix broken RRE decoder in java client

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5136 3789f03b-4d11-0410-bbf8-ca57d06f2519

Do a better type cast that mirrors how we generate
opaqueId in the first place. Patch by Michal Srb.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5135 3789f03b-4d11-0410-bbf8-ca57d06f2519

An updated patch of the X11 clipboard notification is now available.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5134 3789f03b-4d11-0410-bbf8-ca57d06f2519

Printing the clipboard data is very annoying as it could
include line breaks, things with the wrong character encoding
and god knows what. Just print the size of the data instead.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5133 3789f03b-4d11-0410-bbf8-ca57d06f2519

The screen index was removed in 1.13, not 1.12.
Bug found and patched by Koichiro IWAO.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5130 3789f03b-4d11-0410-bbf8-ca57d06f2519

Fix copy-paste error that referred to the wrong variable.
Bug found by David Binderman.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5126 3789f03b-4d11-0410-bbf8-ca57d06f2519

Fix bad size calculation in GetQueryConnect handler as well
as an endian conversion fix. Patch by Christian Steinle.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5124 3789f03b-4d11-0410-bbf8-ca57d06f2519

Update more copyrights to 2013.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5122 3789f03b-4d11-0410-bbf8-ca57d06f2519

Update copyright year to 2013.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5121 3789f03b-4d11-0410-bbf8-ca57d06f2519

Some applications (e.g. wine and rdesktop) tend to misbehave
when we use fake shift to get different symbols on the numpad.
So avoid using fake shifts on NumLock related keys and hope
that other applications won't get upset by getting the
non-numpad keysym counterparts.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5119 3789f03b-4d11-0410-bbf8-ca57d06f2519

Simplify the lookup of alternative keysyms.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5118 3789f03b-4d11-0410-bbf8-ca57d06f2519

Even if we ignore the modifiers, we still have to respect
the active group when we go looking for the level 3 shift key.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5117 3789f03b-4d11-0410-bbf8-ca57d06f2519

The numpad decimal hack is needed on OS X as well.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5115 3789f03b-4d11-0410-bbf8-ca57d06f2519

Forgot to respect the AcceptClipboard option in the
new FLTK based viewer. Patch by Matt McCutchen.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5112 3789f03b-4d11-0410-bbf8-ca57d06f2519

Fix bad reference counting of the initial randr mode set.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5111 3789f03b-4d11-0410-bbf8-ca57d06f2519

Adding normal alphabetic keysyms as ONE_LEVEL did not behave
correctly when CapsLock is active, so start using the ALPHABETIC
type for those instead.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5109 3789f03b-4d11-0410-bbf8-ca57d06f2519

xkbcomp ignores keycodes without names, so make sure any keycode
we use actually has one.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5108 3789f03b-4d11-0410-bbf8-ca57d06f2519

The cause of the keyboard mapping change is not a X11 request,
so don't pretend like it is.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5107 3789f03b-4d11-0410-bbf8-ca57d06f2519

XkbTranslateKeyCode() is not implemented according to
specification in any system I can find, so change our code
to follow reality rather than specification.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5106 3789f03b-4d11-0410-bbf8-ca57d06f2519

Not sure what I was smoking when I wrote this. You need
to provide both pointers, even if you are just interested
in the upper case symbol.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5105 3789f03b-4d11-0410-bbf8-ca57d06f2519

Relax the requirements on addKeysym() so that it can add new
entries that still require modifying the current modifier state.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5104 3789f03b-4d11-0410-bbf8-ca57d06f2519

Redo r5090 using functions that are available in older
Xorg versions as well.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5100 3789f03b-4d11-0410-bbf8-ca57d06f2519

Apparently it is more kosher to completely disassociate an
output from its CRTC than just removing the mode when
disabling an output. This is what "xrandr --off" does.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5099 3789f03b-4d11-0410-bbf8-ca57d06f2519

Automatically update the connection state for RandR
outputs in Xvnc as virtual displays become enabled/disabled.
This seems to make applications happier than just
clearing the mode.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5098 3789f03b-4d11-0410-bbf8-ca57d06f2519