Remove PixelTransformer and TransImageGetter

There is nothing using these classes anymore, so remove the clutter.

Use PixelBuffer objects as the interface for encoders and decoders

This avoid a lot of unnecessary middle men. This also pushes the
responsibility for pixel format conversion into the encoders and
decoders. The new bufferFromBuffer() is used for direct conversion,
rather than PixelTransformer/TransImageGetter.

Store the mouse cursor in the ConnParams object

Like we do for everything else. This also gets rid
of the callback, which is a bit out of place
compared to everything else.

Allow PixelBuffers to be const

Add helper class for a rendered cursor

Add a magical cursor framebuffer class for handling when you
want to render the cursor on the server side. Keeps the cursor
specific magic in one contained place.

Add convenience variant of getImage()

Add convenience functions to ModifiablePixelBuffer

Allows you to modify the buffer with data in a
different pixel format.

Test results comparing PixelTransformer and bufferFromBuffer()

Add optimised buffer conversion

Handles the common cases when the target or source are in
the preferred 888 format.

If one of the buffers is not 888, then it must also be properly
aligned (which is commonly the case). Performance is now in many
cases on par with PixelTransformer.

Add ability to directly convert between two pixel formats

This is a lot easier and cheaper than having to set up a complete
PixelTransformer object.

Use lookup tables for pixel upconversion

You have to loop many times when converting e.g. 2 bits to 8,
so have a couple of lookup tables to speed things up. We still
use bit replication to get from 8 bits to 16 bits though.

Put some space between the groups of tests

Add more 8 bpp conversion tests

Only grab the regions we actually need

Allows pixel buffers that do damage tracking to get
proper information.

Provide a better R/W base PixelBuffer class

Clearly separates the read API from the write API
and also from actual implementation.

Get rid of getStride()

It was confusing and not properly used everywhere.
Callers should use the stride they get when they get
the buffer pointer.

Get rid of the direct access abuse of FullFramePixelBuffer's data

We don't need a fillRect() that is this optimised

Keep things simple instead and allows us to remove the extra setPF()
methods.

Avoid having virtual methods where not needed

getImage() doesn't need to be overloadable, keep it simple

Create a proper interface base class for the viewport's framebuffer

This allows us to gracefully fall back to the FLTK code in case the
platform specific code cannot be used.

Encoders/decoders should track the connection object

The connection object is a much more appropriate object for the
decoders and encoders to keep track of. Besides the streams, it also
contains state like connection parameters.

Push encoder and decoder handling down into the connection objects

This keeps the reader and writer objects clean and simple protocol
decoders/encoders.

Remove full support for colour maps

Gets rid of a loooot of code and complexity.

Colour map clients are still supported through an
automatically generated map, but we lose the ability to
develop a client or server that uses colour maps
internally.

Get rid of unnecessary macros as they are only ever set to a single thing

Push encoding specific formats into the encoders and decoders

Keep the generic stream classes clean and general.

Consolidate the different palette handler implementations

Handle CopyRect like any other encoding

Avoids having to special case things. Keeps the code simpler.

Avoid reader/writer duplication in every encoder/decoder

Remove partial update functionality

Get rid of the ability of encoders to only send part of the
rectangle they are given as we don't want partial updates
anyway.

Move serialisation of pseudorects into separate functions

Keeps the code clearer.

Merge the "V3" message classes into the normal ones

We have no need for this abstraction so let's keep things simple.

Merge branch 'pixeltest' of https://github.com/CendioOssman/tigervnc

Merge branch 'cleanup' of https://github.com/CendioOssman/tigervnc

Remove a lot of platform compatibilty stuff

It's either not used, or no longer relevant.

Remove remnants of Windows only client

Fix some offenders that poke around in the PixelFormat internals

Avoid code duplication for the linear pixel format conversion methods

Consistent use of stride vs pitch

Consistently use the term stride rather than pitch. Also
consistently represent the stride in number of pixels rather
than number of bytes. There is so much code that assumes
proper alignment already that we do not need the extra resolution.

Fix possible information leakage

Zero the padding byte used when converting 24-bit RGB to 32-bit.

Use the same algorithm for conversions

Make sure that the routines that convert between buffer
and rgb representations follow the same algorithm so it's
easier to compare them.

Optimise the RGB to pixel conversion to simple shifts

Might as well make it inline at this point as well as it is used
heavily in other routines that convert entire blocks of pixels.

Remove magic JPEG variables from ConnParams

Custom compression level and JPEG on/off are not inherent parts of
the protocol negotiation so they do not belong in ConnParams. Let the
UI frontend handle such things instead.

Clean up the encoding parser in ConnParams

Make the subsampling setting follow the common style

Remove some premature optimisation

Reduces header dependencies.

Add some missing whitespace

Stop storing a copy of the encodings as we don't use it for anything

Get rid of the register mechanism for encoders and decoders

We have no use for it, so let's keep things simple.

Be more consistent in referring to pixel byte streams as buffers

Document the different pixel representations that we deal with

Get rid of unused things in the ZRLE encoder

Get rid of unused shared MemOutStream and variable max length
functionality in the ZRLE encoder.

Remove unused method prototype

Remove all unused TX widgets

Remove the scaled pixel buffer classes as they are not used.

There were also reports of them being broken last time we still
made use of them.

Remove unused (and commented out) PixelBuffer::getPixel()

Remove unused alternative code path from the ZRLE and Hextile decoders

Remove unused pixel conversion method

Remove unsused, commented out code

Clean up header dependencies in the vncviewer directory

Reduce dependencies on TransImageGetter.h

Support keeping libjpeg's default compression setting

Check that we have a cursor to restore

Forgot to check that we actually have a cursor from the server
before trying to switch back to it after dismissing the context menu.

Converting to RGB might involve a precision increase

Need to do more than a simple shift to get the appropriate
new value. This isn't quite as exact as a proper multiplication
and division, but the error is so small it's not worth the
extra cycles.

Add pixel conversion speed test

Add a tests directory where we can put tests programs that can
be useful during testing. Start with a speed test for the pixel
conversion routines.

librfb needs librdr so make sure it always gets pulled in

Make sure we check that PixelFormats we get are actually valid.

Embedded applet should not show server dialog

Accidentally removed some code in the previous commit.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5186 3789f03b-4d11-0410-bbf8-ca57d06f2519

Add XDAMAGE support to x0vncserver. Makes it more efficient
and more responsive to changes.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5185 3789f03b-4d11-0410-bbf8-ca57d06f2519

Add a global event handler so that we can intercept custom events
that aren't for a specific window.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5184 3789f03b-4d11-0410-bbf8-ca57d06f2519

Fixed dependency problems with ubuntu precise build. Added ubuntu trusty package.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5183 3789f03b-4d11-0410-bbf8-ca57d06f2519

Fix typos in r5181

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5182 3789f03b-4d11-0410-bbf8-ca57d06f2519

Add missing dependencies to ubuntu builds that cause cut-copy-paste issues

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5181 3789f03b-4d11-0410-bbf8-ca57d06f2519

Remove comment about service mode not working; bug 135 was fixed a while ago.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5178 3789f03b-4d11-0410-bbf8-ca57d06f2519

Ubuntu's upstream fltk package contains patches that conflict with Pierre's patches. Building with vanilla fltk instead.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5177 3789f03b-4d11-0410-bbf8-ca57d06f2519

Removed shell dependency from el6 vncserver init script. Fixes bug tracker bug #141.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5176 3789f03b-4d11-0410-bbf8-ca57d06f2519

This list isn't properly maintained so let's add a disclaimer.
People looking for proper attribution will have to check individual
files and repository history.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5172 3789f03b-4d11-0410-bbf8-ca57d06f2519

We don't want to lose the checks performed by assert() in release builds
so make sure we remove NDEBUG. Based on work by Tim Waugh for Red Hat.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5168 3789f03b-4d11-0410-bbf8-ca57d06f2519

The ZRLE decoder relied on an assert() for boundary checks. A default
Release build however will remove all asserts making it possible to
overrun this buffer. This could be exploited by a malicious server.
This issue has been assigned CVE-2014-0011. Patch by Tim Waugh for
Red Hat.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5167 3789f03b-4d11-0410-bbf8-ca57d06f2519

Applied patch from Alois Mahdal <amahdal@redhat.com>:

missing ending quote in 10-libvnc.conf

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5162 3789f03b-4d11-0410-bbf8-ca57d06f2519

Applied patch from:

Koichiro IWAO <meta@vmeta.jp>

Option for disabling build of vncviewer.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5161 3789f03b-4d11-0410-bbf8-ca57d06f2519

Fixes problems with cmake detection of GnuTLS.  The current CMakeLists.txt uses check_function_exists to identify legacy versions of GnuTLS but cmake performs this test by linking a small test program.  If libgnutls, libgcrypt, or libgpg-error are outside the default library search path, linking the test program fails even though gnutls and it's dependencies are installed.  This patch makes it possible to specify the location of each of the three libraries independently and only as needed.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5160 3789f03b-4d11-0410-bbf8-ca57d06f2519

Removes VeNCrypt-checkbox from the security page in the WinVNC options. Fixes bug #142.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5159 3789f03b-4d11-0410-bbf8-ca57d06f2519

Make WinVNC service mode work on Windows Vista and beyond.
Patch by Jochen Tucht, fixes bug 135.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5158 3789f03b-4d11-0410-bbf8-ca57d06f2519

Removes the additional padding reserved for the menubar and enables drag undocking for the java applet when served from Windows.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5157 3789f03b-4d11-0410-bbf8-ca57d06f2519

r5142 and r5149 borrowed code from the TurboVNC viewer, which has different Configuration parameter logic. This caused an exception in the usage() method

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5156 3789f03b-4d11-0410-bbf8-ca57d06f2519

r5138 did not completely resolve the problem with clipboard data consuming too much heap space.  Large amounts of clipboard data could still cause the heap size to grow to huge sizes.  This patch tries to address the problem by opening a Reader to the underlying IO stream and then reading only up to MaxCutText characters.  The garbage collector is invoked manually rather than waiting for the JVM to do it in order to prevent the heap size from growing in between JVM invoked garbage collections.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5155 3789f03b-4d11-0410-bbf8-ca57d06f2519

Fixes for modality issues & dialog behavior in embedded mode.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5154 3789f03b-4d11-0410-bbf8-ca57d06f2519

Moved OS X setDockIconImage call into VncViewer.setLookAndFeel so that the dockImage gets set faster.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5153 3789f03b-4d11-0410-bbf8-ca57d06f2519

Make sure the fill function pointer gets updated if the
managed pixel buffer changes format. Also add a bit more
protection for switching pixel format as the base classes
aren't really designed for that. Fixes a crash with the
mouse pointer in WinVNC.
Based on work done by Daniel Wyatt (dewyatt).

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5152 3789f03b-4d11-0410-bbf8-ca57d06f2519

Set the dock icon on OS X.  Not perfect as it still shows the standard Java logo for a second or two, but better than nothing

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5151 3789f03b-4d11-0410-bbf8-ca57d06f2519

Release all downKeys when the focus is lost, otherwise the state of the keyboard will be inconsistent when the focus is regained.  Also, the direction of the key release was incorrect in r5147.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5150 3789f03b-4d11-0410-bbf8-ca57d06f2519

Re-introduces embedded applet mode for the java viewer. On Windows and Linux, the embedded applet can be dragged from the browser window and detached from the browser process.  The mouse gesture for detaching the applet is ALT+drag on Windows and SHIFT+drag on Linux.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5149 3789f03b-4d11-0410-bbf8-ca57d06f2519

Updated copyright notices

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5148 3789f03b-4d11-0410-bbf8-ca57d06f2519

Another overhaul of the key event handlers. There was a fundamental flaw in the previous implementation due to the fact that java key modifiers associated with a key_pressed or key_released event are reported with respect to each particular event.  Thus, for example a key sequence of CTRL press, letter press, CTRL release, letter release never sends the corresponding release for the CTRL+letter down event.  Key events are now synchronized on a monitor object to help ensure that the key sequence is preserved.  This implementation mirrors the fltk viewer quite closely and, as far as I can tell, is capable of sending all of the same keysyms.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5147 3789f03b-4d11-0410-bbf8-ca57d06f2519

Added rpm spec file & sources for building Suse linux packages to contrib folder

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5146 3789f03b-4d11-0410-bbf8-ca57d06f2519

Added attributes to the Java viewer MANIFEST file in order to conform to upcoming JRE requirements.  Added support for specifying a signing certificate in place of the self-signed certificate.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5145 3789f03b-4d11-0410-bbf8-ca57d06f2519

Fix regression in java install path introduced in r5143

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5144 3789f03b-4d11-0410-bbf8-ca57d06f2519

Fixed incorrect ConnParam initial value in CConn constructor.  Thanks to Pierre for pointing that out.

git-svn-id: svn://svn.code.sf.net/p/tigervnc/code/trunk@5143 3789f03b-4d11-0410-bbf8-ca57d06f2519